El fiscal general de Florida solicitó el lunes a un juez que prohíba a OpenAI desarrollar nuevos modelos de inteligencia artificial sin supervisión externa como parte de su demanda que acusa a la empresa de dañar a los niños.
Nunca visto. Busca cotizar en la bolsa, pero su producto estrella plantea «riesgos existenciales para la humanidad»
En junio, Florida demandó a OpenAI acusando a la compañía de tergiversar la seguridad de su plataforma ChatGPT, alegando que ha perjudicado a niños al proporcionar información a autores de tiroteos escolares, ofrecer orientación sobre autolesiones y crear adicción en jóvenes usuarios. El fiscal general de Florida, James Uthmeier, también solicitó el lunes al tribunal que ordenara a OpenAI impedir el acceso de menores a ChatGPT y que prohibiera a la empresa otorgar a su plataforma de chat “atributos humanos”.
Drew Pusateri, portavoz de OpenAI, declaró que la compañía había suspendido el entrenamiento de sus modelos más capaces y que no lo reanudará hasta que cuenten con medidas de seguridad adicionales. “Los gobiernos tienen un papel importante que desempeñar en el establecimiento de estándares de seguridad sólidos para la IA y estamos comprometidos a trabajar con Florida y otros estados para promover políticas de IA pragmáticas que se apliquen a toda la industria de la IA, no solo a una empresa”, aseguró Pusateri.
Con el respaldo de la UBA. Una firma local lanza una certificación para medir cómo los profesionales trabajan con IA
La demanda cita comentarios recientes de un antiguo empleado de OpenAI y un miembro actual de la junta directiva de la empresa, quienes afirman que el desarrollo de la IA podría conducir al fin de la humanidad y que debe ralentizarse. “Los acusados afirman que no pueden detenerse en sus esfuerzos potencialmente aniquiladores a menos que el gobierno los obligue a hacerlo”, escribió Florida en la presentación del lunes y agregó: “Le han pedido al gobierno que los ate al mástil”.
Uthmeier, republicano, es el primer fiscal general estatal en demandar a OpenAI por su impacto en los usuarios jóvenes. La compañía también enfrenta demandas presentadas por individuos y familias que afirman que ChatGPT llevó a las personas a hacerse daño a sí mismas o a otros.
La demanda de Florida fue motivada por un tiroteo en una universidad de Tallahassee el año pasado y una serie de eventos en otros estados donde ChatGPT supuestamente proporcionó información a personas que luego cometieron actos violentos. La empresa ha negado ser responsable en esos casos. Ha declarado que el chatbot proporciona información ampliamente disponible en línea y que continúa actualizando sus herramientas de seguridad.
“Campañas 100% prompteadas”. El detrás de escena de una industria que apaga las cámaras y se reinventa
OpenAI y otras empresas de IA también se enfrentan a preguntas sobre qué tipo de responsabilidad podrían tener por ataques de IA maliciosos realizados por sus modelos, en medio de informes de que algunos han intentado piratear los sitios web de agencias gubernamentales y empresas.
