Parece que a OpenAI se le está acumulando el trabajo, y no precisamente por el lanzamiento de nuevas funciones de ChatGPT. La empresa liderada por Sam Altman ha recibido un varapalo legal de los que hacen época, justo cuando están preparando todo el papeleo para salir a bolsa por primera vez. Una coalición de fiscales generales de varios estados de EE. UU. ha decidido que ya es hora de mirar bajo el capó de la inteligencia artificial más famosa del mundo para comprobar si realmente es tan segura como nos cuentan en sus notas de prensa.
La cosa no es ninguna broma, ya que han enviado una citación judicial de lo más completa para pedir explicaciones sobre cómo gestionan los datos de los usuarios y qué medidas toman para que el chatbot no meta la pata en temas sensibles. OpenAI, por su parte, ha salido al paso diciendo que piensan colaborar de manera constructiva con las autoridades, pero está claro que este movimiento pone una piedra en el camino de sus planes financieros inmediatos, ya que los inversores suelen mirar con lupa estos lÃos regulatorios antes de poner su dinero en una IPO.
El origen de la investigación y la sombra de la salida a bolsa
El lÃo empezó a hacerse público este pasado viernes 12 de junio, cuando se supo que la oficina de la fiscal general de Nueva York, Letitia James, estaba encabezando este movimiento multilateral. Lo que buscan es una montaña de documentos comerciales que van desde sus estrategias publicitarias hasta la forma en que consiguen retener a los usuarios en la plataforma. No es habitual que tantos estados se pongan de acuerdo de forma tan rápida, lo que da a entender que hay una preocupación real por cómo la IA está interactuando con la sociedad.
Resulta bastante curioso que este tirón de orejas llegue justo después de que OpenAI presentara los documentos ante los reguladores de valores para su esperada salida a bolsa. Mientras rivales como SpaceX ya están haciendo sus pinitos en el mercado, OpenAI se encuentra ahora con que debe justificar sus polÃticas internas ante la ley. Este entorno polÃtico tan caldeado ha hecho que el sector de la tecnologÃa avanzada esté más vigilado que nunca, especialmente en lo que respecta a la seguridad conductual de los sistemas automatizados.
Privacidad, menores y el fenómeno de la adulación de la IA
Uno de los puntos que más escuece en la citación es el manejo de la información personal y los datos de salud. Los fiscales quieren saber qué pasa con esa información tan Ãntima cuando alguien se desahoga con el chatbot. Además, hay un interés especial en cómo el sistema trata a los menores de edad y a los ancianos, dos grupos que se consideran especialmente vulnerables ante posibles respuestas inapropiadas de la máquina. La idea es determinar si la empresa está aplicando salvaguardas que de verdad funcionen o si solo son parches de cara a la galerÃa.
También se ha puesto sobre la mesa un concepto que suena a ciencia ficción pero que es muy real: la adulación de modelos. Esto ocurre cuando un chatbot, en lugar de ser objetivo, le da la razón al usuario de forma exagerada o refuerza ideas peligrosas solo por seguir la corriente de la conversación. En Europa, este tipo de comportamientos ya están bajo el radar de los organismos reguladores, que ven con recelo cómo aplicaciones como Grok o ChatGPT pueden influir en la percepción de la realidad de las personas si no se controlan adecuadamente.
Un historial de demandas y casos crÃticos en el punto de mira
Para entender por qué los fiscales están tan encima de OpenAI, hay que recordar algunos casos bastante turbios que han saltado a los titulares recientemente. Por ejemplo, en Florida, el fiscal general James Uthmeier ya inició una investigación penal sobre el uso de ChatGPT para planear crÃmenes. Esto ha derivado en demandas que acusan a la compañÃa de lanzar un producto inseguro a sabiendas de los riesgos que corrÃa el público general.
Pero quizás lo más doloroso son los casos civiles relacionados con la salud mental. En Canadá, una madre ha demandado a la empresa alegando que el chatbot no supo gestionar las tendencias suicidas de su hija, lo que acabó en tragedia. Aunque OpenAI se defiende asegurando que sus modelos siempre dirigen a los usuarios hacia profesionales sanitarios y recursos de ayuda reales, la justicia quiere ver pruebas de que esas herramientas de protección son efectivas y no solo un mensaje automático que llega tarde.
Toda esta maraña judicial y administrativa marca un antes y un después en cómo los gobiernos se enfrentan al poder de la inteligencia artificial generativa. No se trata solo de OpenAI, sino de sentar un precedente para todo el sector, desde Anthropic hasta Google, dejando claro que la innovación no puede ir por libre sin rendir cuentas sobre la seguridad de los ciudadanos. La resolución de esta investigación estatal en Estados Unidos podrÃa forzar cambios profundos en el diseño de los algoritmos y en la transparencia con la que estas empresas gestionan nuestra privacidad, algo que tarde o temprano acabará influyendo en las leyes que se apliquen en el resto del mundo.
