Tabla de Contenidos
Imagina lo siguiente: trabajas en ventas en Wolf River Electric, una pequeña empresa de energía solar en Minnesota. Un cliente potencial está a punto de firmar un contrato de $50,000. Entonces, antes de cerrar el acuerdo, decide hacer una búsqueda rápida en Google sobre tu compañía.
Lo que encuentra lo deja helado: Google le dice que tu empresa fue demandada por el fiscal general de Minnesota por prácticas comerciales engañosas. El cliente cancela. La oportunidad de $50,000 desaparece.
Aquí viene lo interesante: nunca pasó nada de eso. Wolf River Electric nunca fue demandada. Nunca fue investigada. Nunca llegó a ningún acuerdo con los fiscales. La acusación fue completamente fabricada por Gemini, la IA de Google.
Y no fue un accidente aislado. Las cancelaciones de contratos se multiplicaron durante 2024 y 2025. Clientes potenciales encontraban en Google una prueba de «mala conducta empresarial» de Wolf River. Algunos competidores incluso mencionaban estas acusaciones durante sus propias presentaciones de ventas para convencer a los clientes de que eligieran a la competencia.
La reputación, ese activo que construiste durante años, se desmorona en minutos.
Wolf River vs. Google
En marzo de 2025, Wolf River Electric hizo algo que pocas empresas se atreven a hacer: demandó a Google. No porque fuera un acto de rebeldía empresarial, sino porque no les dejaron opción. El daño colateral de Gemini fue masivo: $25 millones en pérdidas de ventas según su comunicación a Google. La demanda pide entre $110 y $210 millones en daños.
Lo que hace este caso tan explosivo no es solo el número de dólares. Es lo que revela sobre cómo funciona realmente el poder en la era de la IA.
Google, tras ser notificado del problema por Wolf River, no lo resolvió rápidamente. De hecho, incluso después de que la empresa comprobara la falsedad de las acusaciones, Google siguió difundiendo la información incorrecta. Meses después, cuando usuarios buscaban «Wolf River Electric», Google aún servía el mismo contenido difamatorio. Se tardó demasiado tiempo para remover lo que nunca debería haber aparecido.
Justin Nielsen, cofundador de Wolf River, lo expresó de la siguiente forma: «Invertimos tiempo significativo en establecer una reputación respetable. Cuando los clientes encuentran una Red Flag como esa, es casi imposible recuperar la confianza…»
¿El resultado? Wolf River está lidiando con la posibilidad de quiebra. Una pequeña empresa que construyó un negocio legítimo durante una década se enfrenta a la ruina porque una máquina alucina.
Uno de al menos seis casos más
Wolf River no está solo. Reportes recientes del New York Times documentan al menos seis demandas por difamación de IA presentadas en EE.UU. en los últimos dos años. Estos no son casos frívolos de gente superficial. Algunos tienen precedentes legales que podrían cambiar todo.
Tomemos el caso de Mark Walters, un locutor de radio pro-derechos de armas que fue demandado por una acusación completamente inventada: que había robado dinero. ¿Quién lo acusó? ChatGPT de OpenAI. Un periodista le preguntó sobre un litigio y la IA respondió describiendo falsamente a Walters como un criminal. El periodista reconoció el error y no publicó nada. Pero Walters demandó de todas formas.
OpenAI ganó ese caso en mayo de 2025. El juez encontró que no había prueba de negligencia pero no fue porque la acusación fuera falsa, sino porque la corte decidió que “nadie razonable” creería lo que ChatGPT dice sin verificación independiente. En otras palabras, los disclaimers de OpenAI la salvaron.
Luego está Robby Starbuck, un activista conservador que demandó primero a Meta (la empresa detrás de Facebook) y llegó a un acuerdo en agosto de 2025. El problema: Meta’s AI había puesto a Starbuck en las imágenes del asalto del Capitolio del 6 de enero, cuando en realidad estaba en Tennessee. También lo acusó de ser un «violador de menores» y un «abusador sexual en serie». Alucinaciones digitales que podrían haber destruido su vida. Meta pagó. Google, por su parte, se niega a admitir nada y dice que Starbuck no puede probar que alguien creyó estas acusaciones.
¿Quién Es responsable de lo que dice la máquina?
Aquí es donde el sistema legal se vuelve completamente caótico.
En la ley de difamación estadounidense tradicional, demostrar que alguien es responsable requiere probar intención o, al menos, negligencia. Pero cuando es una IA, ¿cómo demuestras intención? Los algoritmos no tienen mentes. No pueden ser negligentes en el sentido que entendemos los humanos.
Eugene Volokh, experto en la Primera Enmienda de UCLA, lo captura perfectamente: «No hay duda de que estos modelos pueden producir afirmaciones dañinas. La pregunta crítica es: ¿quién es el responsable?»
Los argumentos legales son contradictorios:
Argumento 1: Los usuarios generaron el contenido
Google argumenta que Starbuck «dio un mal uso a las herramientas de AI» para crear alucinaciones. En otras palabras: no es culpa nuestra si escribiste algo que hizo que nuestra IA alucine.
Argumento 2: Nadie razonable creería a la IA
OpenAI ganó sobre esta base: que ChatGPT tiene disclaimers que advierten sobre imprecisiones, así que nadie debería confiar en ella. Pero Wolf River Electric prueba esto es falso: sus clientes SÍ creyeron lo que una AI les dijo. Los clientes no leyeron minúsculas letras legales; vieron «Gemini dice» y concluyeron que debía ser verdad.
Argumento 3: Protección de sección 230
Una ley de 1996 (Communications Decency Act, sección 230) protege a las plataformas de responsabilidad por contenido generado por usuarios. Google a veces argumenta que esto también los protege por contenido generado por IA. Pero hay un problema: Google no está hosteando contenido de terceros; está generando el contenido. Es la diferencia entre YouTube (que no es responsable por lo que subes) y Google escribiendo un artículo que da fama de criminal a tu negocio.
Nina Brown, profesora de derecho en comunicación de la Syracuse University, indica: «Sospecho que si hay una demanda por difamación de IA en la que el demandado es vulnerable, probablemente se resuelva en lugar de ir a juicio. Quieren evitar el riesgo».
Los ejecutivos corporativos no quieren el precedente de que la IA es responsable. Porque si pierden una demanda, abre las puertas a miles de demandas similares.
Daño financiero documentado
Lo que hace a Wolf River Electric tan potencialmente ganador en su caso es algo que Mark Walters no tenía: daño financiero documentado.
Wolf River proporcionó a Google pruebas de:
- Múltiples clientes cancelaron contratos después de ver las acusaciones falsas en Google
- Algunos competidores citaban activamente la información falsa de Google durante sus conversaciones de ventas
- En Reddit, usuarios etiquetaban a Wolf River como posible «devil corporation», basándose en lo que Google les mostró
- La cascada de información falsa fue exponencial: públicos que creían que Google era confiable esparcían las mentiras aún más
Un cliente específico canceló un contrato de $150,000 directamente después de ver la acusación de Google. Eso es daño. No es especulativo. No es «podría suceder». Es algo que sucedió.
Esto contrasta con OpenAI, donde Mark Walters no podía demostrar que alguien creyera lo que ChatGPT había dicho. ChatGPT era hasta hace unos meses un juguete experimental. Las personas en teoría saben que es impreciso. Google Search es diferente: es donde 91% de las búsquedas globales suceden. Es donde la verdad se define.
El fantasma en la máquina
Starbuck argumenta en su demanda contra Google que el sesgo no fue accidental. Que Gemini fue «deliberadamente diseñada para dañar la reputación de individuos con los que ejecutivos de Google no estén de acuerdo políticamente». Su demanda afirma que cuando se cuestionó a Gemini sobre por qué generaba información falsa sobre él, la IA admitió que fue intencional.
Google lo niega vehementemente.
Pero si un sistema es tan predecible que es capaz de generar consistentemente las mismas acusaciones falsas sobre el mismo individuo durante meses, ¿es realmente un «glitch»? ¿O es un fallo del diseño del cual nadie quiso responsabilizarse?
Los desarrolladores de IA saben que estos sistemas alucinan. Lo saben. Han visto papers académicos sobre esto durante años. Entonces la pregunta no es «¿sabían que podría pasar?» sino «¿qué hicieron para prevenirlo?»
Responsabilidad real
Académicos y abogados están empezando a esbozar lo que parece obvio: si publicas contenido que daña a alguien, eres responsable por ese contenido. Ya sea que lo escriba un humano, un bot, o un dragón digital con inteligencia artificial.
Eugene Volokh lo expresa así: «La pregunta crítica es: ¿quién es responsable? No puede simplemente ser ‘la máquina hizo un error'». Nadie acepta eso cuando lo hace un periódico. ¿Por qué debería ser diferente para Google?
Las cortes europeas están pensando más claramente en esto. El Defamation Act de 2013 del Reino Unido y la próxima EU AI Act están pidiendo un «duty of care» —una obligación de diligencia—. No es responsabilidad estricta, pero sí obligas a los desarrolladores a pensar en cómo prevenir el daño previsible.
En otras palabras: no puedes lanzar una herramienta que sabes que produce contenido dañino falso y decir «ups, fue un glitch».
Cuando la mentira escala a la velocidad de la luz
La verdadera pesadilla no es que Wolf River reciba una acusación falsa. Es lo que sucede después.
Un cliente cree a Google. Cancela un contrato. Comenta en Reddit sobre la «mala conducta de la compañía». Alguien más ve ese comentario y concluye: «He escuchado cosas sobre Wolf River también». Un empleado se lo dice a su jefe. Un socio se retira. Un banco se niega a otorgar una línea de crédito. Una compañía aseguradora aumenta las primas.
Toda una avalancha desatada por una alucinación de IA que Google tardó meses en resolver.
¿Dónde termina? Con la empresa en quiebra.
Ahora imagina que una AI acusa falsamente a un banco de insolvencia. O a una aerolínea de negligencia de seguridad. O a una empresa farmacéutica de prácticas ilegales. No es hipotético: ya está sucediendo en diferentes industrias, solo que no siempre llega a los titulares.
El World Economic Forum listó la desinformación impulsada por IA entre los riesgos globales más altos para 2025. No por accidente. En mayo de 2023, una fake image del Pentagono en llamas circuló en redes sociales. En cuatro minutos, el Dow Jones cayó 85 puntos. Pero era una imagen generada por AI. El mercado no esperó por un fact-checking.
No hay ganador
A como están hoy las cosas nadie va a ganar realmente.
Si Wolf River gana, Google y otros gigantes tendrán que ser mucho más cuidadosos con lo que sus sistemas de IA generan. Eso podría ralentizar la innovación. Eso podría aumentar costos. Eso podría significar menos features «gratuitas» en Google Search.
Si Google gana, establece el precedente de que una empresa puede ser negligente en la implementación de IA y enfrentar responsabilidad limitada siempre que coloque un disclamer en algún lugar.
¿La gente común? Estará atrapada entre una IA que genera falsedades y un sistema legal que tarda años en resolverlo.
Piensa en lo que pasaría si una IA acusara falsamente a tu empresa de corrupción, lavado de dinero, o tráfico de influencias en un mercado donde la reputación es todo.
En Latinoamérica, donde la confianza en instituciones es frágil y los rumores escalan rápidamente, una alucinación de IA podría ser letal para un negocio.
Responsabilidad 2.0
Lo que está emergiendo en juzgados de todo el mundo es claro, aunque doloroso para las empresas de IA:
- Las compañías que desarrollan IA son «publishers» de lo que sus sistemas generan. No pueden esconderse detrás de algoritmos.
- «Las alucinaciones» no son excusas. Es un defecto del producto. Si tu coche tiene frenos defectuosos y causa un accidente, no puedes culpar a la gravedad.
- Daño financiero documentado cambia todo. Las cortes simpatizarán más con un Wolf River que puede probar pérdidas de $150,000 en un contrato específico que con Mark Walters que en teoría “no perdió nada”.
- La rapidez en la resolución importa. Google fue lento en corregir la información falsa después de ser notificado. Eso refuerza la negligencia.
- Responsabilidad limitada requiere buenos controles. Los disclaimers no son suficientes si la gente obviamente no los lee. Apple no puede decir «El iPhone puede fallar» en letras minúsculas y escapar de la responsabilidad si sus teléfonos fallan consistentemente.
Quien realmente paga
La respuesta que los abogados dan es: depende.
Depende de si el daño es documentado. Depende de si la empresa conocía del riesgo. Depende de si intentó corregirlo. Depende de si el cliente promedio confía en la fuente (Google sí, ChatGPT quizá).
Pero hay una verdad más profunda que emerge del caos legal: alguien siempre paga. Siempre.
Si no paga la empresa de IA a través de demandas, pagan los usuarios a través de contenido envenenado. O pagan las pequeñas empresas como Wolf River a través de pérdidas de ingresos. O paga la sociedad a través de la erosión de confianza en la información online.
El sistema legal estadounidense está lentamente reconociendo lo que debería ser obvio: el poder conlleva responsabilidad. Google tiene más poder para influir en la percepción pública que casi cualquier otra institución en la historia humana. Cuando se abusa de ese poder, incluso accidentalmente, debe haber consecuencias.
Para ejecutivos el mensaje es claro. El mundo está siendo redibujado no solo por IA, sino por quién es responsable cuando la IA falla. Y esa responsabilidad está llegando a todos los mercados mucho más rápido de lo que creemos.
Wolf River Electric demostró que hasta una pequeña empresa en Minnesota se debe atreverse a enfrentarse al gigante. El litigio está en marcha. Los próximos 12-18 meses dirán si la IA realmente tiene que ser responsable en la era digital.
Lo que es seguro: nadie quiere ser Wolf River Electric. Pero todos estamos en riesgo de serlo.
También te puede interesar leer: Martín Varsavsky presenta RealMD, la IA médica que ya desembarcó en Argentina