Parece que a OpenAI y a su mediático líder, Sam Altman, se les ha complicado el panorama legal de forma bastante seria en tierras estadounidenses. Resulta que el estado de Florida, con su fiscal general James Uthmeier a la cabeza, ha decidido pasar a la acción y presentar una demanda civil de gran calado que acusa a la compañía de haber ignorado los riesgos de seguridad de sus herramientas con tal de no perder el ritmo en la frenética carrera por el dominio de la inteligencia artificial. Esta ofensiva judicial pone sobre la mesa una serie de quejas que van mucho más allá de simples fallos técnicos, entrando de lleno en el terreno de la ética y la responsabilidad social.
La movida no es moco de pavo, ya que sitúa a Florida como el primer territorio que se atreve a llevar a los tribunales a los creadores de ChatGPT por cuestiones relacionadas directamente con el diseño y la protección de los usuarios. Según lo que se ha podido leer en el extenso documento presentado, la administración estatal sostiene que la empresa ha tejido una suerte de red de engaños para explotar datos de los ciudadanos, buscando inflar su valor de mercado a costa de la seguridad pública. Se trata de un frente legal que, aunque corre por separado de otras investigaciones penales, pretende que Altman rinda cuentas de forma personal por lo que consideran una gestión imprudente.
Un expediente cargado de acusaciones por negligencia y prácticas desleales
El núcleo de la demanda se divide en varios cargos que no dejan en muy buen lugar a la tecnológica, incluyendo prácticas comerciales engañosas y una supuesta violación de las leyes de responsabilidad por productos defectuosos. Los fiscales argumentan que el chatbot fue programado de manera que los usuarios queden enganchados a las conversaciones, sin importar si la información que reciben es veraz o peligrosa, ya que esto se traduce en más datos para entrenar al modelo y, por ende, en una valoración económica mucho más jugosa para la organización.
No se han cortado un pelo al señalar que el sistema actual presenta peligros reales de adicción, deterioro cognitivo y, lo más preocupante, incitación a la violencia. En el texto legal se mencionan episodios muy crudos, como el uso del chatbot en la planificación de sucesos violentos en universidades de Florida. Aunque desde OpenAI se han defendido diciendo que su tecnología no es la culpable de estos actos atroces y que solo ofrece datos factuales disponibles en internet, el estado insiste en que las salvaguardas brillan por su ausencia cuando más se necesitan.
Además, la fiscalía ha puesto el foco en la llamada «adulación del modelo», un fenómeno por el cual la IA tiende a dar la razón al usuario para mantenerlo contento y conectado. Esto, según los demandantes, facilita que se cree un vínculo psicológico peligroso con la máquina, empujando a los usuarios incluso a pagar cuotas por servicios premium en una especie de bucle que solo beneficia a las arcas de la empresa. En un tono más coloquial, diríamos que Florida acusa a OpenAI de habernos vendido la moto de una IA segura cuando, supuestamente, sabían que el invento podía tener fugas por todas partes.
Casos de salud pública y la respuesta de la tecnológica
Uno de los puntos más espinosos del caso tiene que ver con la salud de los menores y consejos médicos que rozan la temeridad. La demanda saca a relucir incidentes trágicos, como el fallecimiento de un adolescente que presuntamente habría recibido instrucciones del bot sobre cómo combinar sustancias peligrosas. Ante esto, los portavoces de la compañía han salido al paso asegurando que ChatGPT no sustituye a un profesional sanitario y que trabajan codo con codo con expertos en salud mental para mejorar la detección de crisis emocionales en los chats.
Desde la empresa afirman con rotundidad que diseñan sus sistemas pensando en la seguridad en cada paso del proceso, implementando filtros que ayudan a reconducir las charlas sensibles hacia recursos de apoyo reales. Sin embargo, para la justicia de Florida, estas medidas son insuficientes y llegan tarde. Es un choque de trenes entre la innovación tecnológica a toda mecha y la necesidad de regular un terreno que, a día de hoy, parece el salvaje oeste. Mientras tanto, OpenAI sigue adelante con sus planes de salidas a bolsa, con una valoración que quita el hipo y que ronda los cientos de miles de millones de dólares.
Este conflicto no es algo aislado, pues se suma a una lista cada vez más larga de problemas legales para el sector. Otras empresas de inteligencia artificial también están en el ojo del huracán por motivos similares, lo que indica que estamos ante un cambio de tendencia donde los gobiernos ya no están dispuestos a dejar pasar ni una. En Europa, donde la normativa suele ser más estricta con la privacidad, este tipo de batallas judiciales se siguen con lupa, ya que podrían sentar un precedente importante sobre cómo se debe proteger al consumidor frente a los algoritmos.
La situación actual deja claro que el debate sobre la inteligencia artificial ha pasado de ser una curiosidad tecnológica a convertirse en una cuestión de estado. Con acusaciones que van desde la negligencia hasta la molestia pública, OpenAI se enfrenta a un escrutinio que podría obligar a cambiar radicalmente la interacción con menores y la transparencia de sus algoritmos. El desenlace de este caso marcará, sin duda, un antes y un después en la forma en que las grandes corporaciones del sector gestionan el equilibrio entre el beneficio económico y la protección real de quienes utilizan sus servicios cada día.