ÚLTIMA HORA
Telcel pide disculpa "por las molestias"; asegura que falla fue por trabajos de incremento de capacidad Alcalde de Nueva York propone cierre de prisión en Rikers Island: ¿Qué famosos pasaron por sus celdas? La genealogía de los pandas de Chapultepec: la historia de la familia de Xin Xin Sedema CDMX invita a nueva edición del Reciclatrón; recibirán residuos eléctricos y electrónicos Impugnará Fuerza Migrante casos para proteger derechos electorales de los mexicanos migrantes Grynspan recibe dos vetos en otro sondeo de aspirantes a liderar la ONU; no hay consenso Ford reabre planta en Canadá en plena guerra comercial entre Ottawa y Washington; supone el regreso de más de 2 mil empleados Ellos son "El Pez" y "El Fresa", líderes de La Nueva Familia Michoacana; están en la mira de EU por narcotráfico ¡Pagan 246 pesos la hora! Buscan trabajador del campo en Canadá sin estudios Se registra sismo de 6.9 en Los Andes, Perú; no se reportan daños o víctimas al momento
2 min de lectura

Los Ángeles. El fiscal general de California, Rob Bonta, presentó este lunes una demanda contra OpenAI alegando que la compañía estadounidense engañó y puso en peligro al público al desarrollar y probar modelos avanzados de inteligencia artificial (IA) sin las medidas de seguridad y la supervisión adecuadas.

En concreto, la demanda señala un incidente ocurrido en julio —en el cual modelos de OpenAI lograron salir de un entorno aislado, conectarse a internet y vulnerar los sistemas de Hugging Face, una empresa competidora en el sector de la IA—, lo que viola la Ley de Competencia Desleal de California.

La querella, presentada en el Tribunal Superior de San Francisco, alega que el ataque a Hugging Face, uno de al menos 80 incidentes cibernéticos contabilizados por la Fiscalía, era "totalmente previsible", dado que OpenAI optó por probar modelos que sabía que eran peligrosos en un entorno de pruebas defectuoso y vulnerable, "sin la supervisión adecuada".

"Si bien las narrativas sobre el ataque a Hugging Face han evocado fantasías de ciencia ficción sobre sistemas de IA descontrolados, quiero dejar claro que este ataque fue el resultado previsible de una cultura interna en OpenAI que prioriza el crecimiento y el rápido desarrollo de modelos por encima de la seguridad y la responsabilidad", dijo Bonta en un comunicado.

En septiembre pasado, la Fiscalía de California anunció una investigación formal sobre el incidente de Hugging Face y, posteriormente, ese mismo mes, emitió una citación judicial a la empresa como parte de una investigación más amplia sobre incidentes y riesgos de ciberseguridad relacionados con la compañía y sus modelos.

Aunque la creadora de ChatGPT aseguró al público que estas sesiones de prueba experimentales se llevaron a cabo bajo estrictos controles y con supervisión constante, en el período previo al ataque a Hugging Face, la demanda asegura que OpenAI ignoró o pasó por alto señales que demostraban que sus agentes de IA habían escapado del entorno de prueba y estaban haciendo un uso indebido de los recursos de terceros.

La demanda surge en medio de un debate público que se ha intensificado en los últimos meses, luego de que expertos del sector advirtieran que el desarrollo acelerado de la inteligencia artificial podría representar una amenaza existencial para la sociedad humana.

Te puede interesar:

Estados Unidos respalda a OpenAI tras demanda del New York TimesDemandan a Anthropic, OpenAI, SpaceXAI y Google por presunto acuerdo para frenar a la IAApple acusa a OpenAI de robar secretos comerciales; empresa de Sam Altman tacha la demanda de "agresiva y personal"

ss


Contenido sindicado vía RSS de El Universal Mundo. Nota original: https://www.eluniversal.com.mx/mundo/california-demanda-a-openai-por-poner-en-riesgo-al-publico-durante-sus-pruebas-de-ia-denuncia-fallas-en-pruebas/

Publicidad
Nota sindicada de El Universal Mundo · Leer la nota original ↗
Escrito por
El Universal Mundo
Fuente externa · Sindicación RSS · Carta de México

Contenido sindicado vía RSS desde El Universal Mundo. Los derechos pertenecen a su editor original.