Los directivos de las principales empresas de inteligencia artificial testificaron el miércoles ante el Consejo de Seguridad de la ONU e instaron a los países a adoptar estándares internacionales respecto al desarrollo de la IA.
El director ejecutivo de Anthropic, Dario Amodei, promovió los beneficios de la tecnología, incluso a pesar de advertir ante el Consejo de Seguridad que esta “podría ser un riesgo para la humanidad en su conjunto”. Su competidor, el director ejecutivo de OpenAI, Sam Altman, también pidió el establecimiento de regulaciones internacionales.
Sam Altman: “A nivel internacional, esto requerirá cooperación. En nuestra historia, ha habido momentos en los que países que incluso compiten entre sí y que no siempre se llevan bien se unen por intereses comunes y el bien colectivo frente a una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos”.
Altman habló al tiempo que el primer ministro de Australia, Anthony Albanese, reveló que un agente de inteligencia artificial desarrollado por OpenAI jaqueó en junio un sitio web del Gobierno australiano, donde accedió a datos privados. Este es el primer ejemplo conocido de un agente autónomo de IA que se filtra en un sitio web gubernamental.
Primer ministro Anthony Albanese: “Hoy hablé con el director ejecutivo de OpenAI, Sam Altman, para expresarle la extrema preocupación de Australia por este incidente. Y también le manifesté mi decepción por el hecho de que la empresa haya tardado demasiado tiempo en informar al Gobierno [australiano] sobre lo ocurrido y porque la forma en que se realizó esa notificación también fue inaceptable”.
Albanese dijo que los investigadores australianos estaban considerando presentar cargos penales contra OpenAI. Esta situación viene precedida de una serie de incidentes en los que modelos de IA fronterizos escaparon del entorno seguro en el que estaban confinados, se organizaron entre ellos mismos y formaron enjambres, llevaron a cabo ciberataques e intentaron cubrir sus rastros. (Fuente: Democracy Now)