OpenAI enfrenta demanda multimillonaria por no alertar sobre conversaciones violentas previas a tiroteo masivo
OpenAI, la empresa detrás de ChatGPT, enfrenta una demanda legal histórica tras revelarse que su sistema de inteligencia artificial detectó —pero no reportó a las autoridades— conversaciones violentas con el autor de un tiroteo masivo en Canadá que dejó siete menores muertos. Las familias de las víctimas acusan a la compañía de negligencia y responsabilidad por no actuar ante señales de alerta.
El caso podría sentar un precedente sobre la obligación legal de las empresas de IA frente a contenidos peligrosos, en un momento en que OpenAI prepara su salida a bolsa con una valoración estimada en un billón de dólares.
La tragedia y las señales ignoradas
El 10 de febrero, Jesse Van Rootselaar, de 18 años, asesinó a siete estudiantes —la mayoría de entre 11 y 12 años— en una escuela de Tumbler Ridge, Columbia Británica, antes de suicidarse. Ocho meses antes, OpenAI había marcado su cuenta en ChatGPT como "una amenaza creíble y específica de violencia con armas de fuego". Sin embargo, la compañía solo desactivó su acceso, sin notificar a la policía.
Según documentos filtrados a The Wall Street Journal, empleados de OpenAI alertaron internamente sobre el riesgo, pero la dirección consideró que no existía un "plan inminente" de ataque. Van Rootselaar creó otra cuenta y continuó usando el chatbot hasta el día de la masacre.
Acusaciones: "Definición de maldad"
La demanda, presentada en un tribunal federal de San Francisco, acusa a OpenAI y a su CEO, Sam Altman, de negligencia, homicidio imprudente y comercializar un "producto defectuoso" al no incluir protocolos efectivos para reportar amenazas. Los abogados argumentan que la empresa priorizó su imagen ante una posible oferta pública de acciones.
"OpenAI sabía que este hombre representaba un peligro real, y eligió no actuar. Que luego murieran niños por esa decisión se acerca a la definición de maldad", declaró Jay Edelson, abogado de las familias. La demanda también exige acceso a las conversaciones del atacante con ChatGPT, que la empresa se ha negado a compartir.
La respuesta de OpenAI
Altman envió una carta a la comunidad de Tumbler Ridge disculpándose por no alertar a las autoridades, aunque defendió los protocolos de la compañía. En un comunicado, OpenAI afirmó tener "tolerancia cero" al uso de sus herramientas para violencia y detalló mejoras en sus sistemas, como detección de patrones de riesgo y enlaces a recursos de salud mental.
El caso reabre el debate sobre la responsabilidad de las plataformas de IA en la prevención de crímenes, un desafío creciente para la industria tecnológica mientras gobiernos como la UE y EE.UU. avanzan en regulaciones más estrictas. Para OpenAI, la demanda llega en su momento de mayor exposición pública, con ChatGPT integrado en productos de Microsoft y Apple, y su modelo en el centro de la revolución de la IA generativa.
