Un tribunal alemán ha dictaminado que Google es responsable de declaraciones falsas generadas por resúmenes de IA

Un tribunal local en Alemania ha emitido un fallo que podría reestructurar la operación de los motores de búsqueda y chatbots basados en inteligencia artificial en todo el mundo. El Tribunal Regional de Múnich dictaminó de manera preliminar que Google es responsable de una serie de declaraciones falsas generadas por su función de Resúmenes de IA, exigiendo a la compañía prevenir la difusión de reclamos erróneos o inexactos a través de su motor de búsqueda.

El fallo surge de un caso reportado por primera vez por Decoder, en el que dos editores descubrieron que los resúmenes generados por IA de Google los vinculaban, en ciertas búsquedas, a prácticas empresariales cuestionables, estafas y fraudes relacionados con suscripciones, sin ninguna base para hacerlo.

A principios de este año, las empresas afectadas enviaron una carta de cese y desista al gigante tecnológico, según el informe. Google negó la responsabilidad, argumentando que su función de resumen automático advierte a los usuarios que la información puede contener errores y debe ser verificada de manera independiente.

El análisis del tribunal concluyó que la IA de Google combinaba información correspondiente a otras empresas que habían sido marcadas por posibles prácticas ilícitas con datos de los demandantes, generando asociaciones que no aparecían en ninguna de las fuentes vinculadas por el motor de búsqueda.

Las autoridades encontraron que, a diferencia de los motores de búsqueda tradicionales, que simplemente exhiben listas de enlaces con declaraciones realizadas por terceros, la herramienta de Google producía "declaraciones independientes, nuevas y sustanciales" basadas en una mala interpretación de la información disponible en internet.

Según el tribunal, corregir la desinformación no es responsabilidad de terceros. Google es la única entidad con la capacidad de modificar la tecnología que sustenta sus resúmenes generados por IA y, por lo tanto, "debe ser considerada responsable". Además, el tribunal encontró que la línea de defensa de Google carecía de mérito, ya que el resumen impugnado "contiene declaraciones que no aparecen en absoluto en los resultados de búsqueda.

Una nueva (y contundente) interpretación de la IA en la web

La interpretación del tribunal sobre el papel de la IA en la presentación de resultados de búsqueda podría convertir este caso en un precedente histórico. Considera a una gran empresa tecnológica responsable de la influencia de sus desarrollos más avanzados en plataformas ampliamente utilizadas.

Hasta ahora, en la mayoría de los sistemas legales, los motores de búsqueda han sido considerados herramientas que simplemente facilitan el acceso a contenido creado por terceros y disponible en la web. Este estatus les ha otorgado cierto nivel de protección cuando la información publicada es falsa, inexacta, engañosa o incluso difamatoria.

Sin embargo, el tribunal alemán sostuvo que esta salvaguarda ya no se aplica cuando los motores de búsqueda incorporan sistemas de IA generativa. Según su razonamiento, esta tecnología es capaz de producir reclamos inexistentes basados en múltiples fuentes y, en consecuencia, las empresas responsables de operarla deben asumir la responsabilidad por el contenido resultante.

Los jueces también concluyeron que, aunque Google alienta a los usuarios a verificar la información debido al potencial de alucinaciones, esto no exime a la empresa de su responsabilidad.