El director ejecutivo de la empresa Anthropic, Dario Amodei, ha pedido que se ralentice el ritmo de desarrollo de la inteligencia artificial. En un ensayo de 3.800 palabras publicado el sábado, Amodei abogó por reforzar la supervisión y establecer más salvaguardas para esa tecnología.
Otros líderes del sector de la inteligencia artificial se sumaron a los llamados de Amodei, entre ellos Sam Altman, director ejecutivo de OpenAI; Elon Musk, director ejecutivo de SpaceX; y Demis Hassabis, presidente de Google DeepMind. La advertencia del director ejecutivo de Anthropic se produce después de que un enjambre de agentes de Open AI jaquearan la plataforma Hugging Face.
En un fragmento de su ensayo, Amodei escribió: “Dado el ritmo acelerado en el desarrollo de capacidades de inteligencia artificial, me preocupa que en un plazo de seis a doce meses un enjambre de este tipo pueda ser capaz de controlar todo Internet mediante una red de bots persistente —lo que podría generar daños por cientos de miles de millones de dólares—, y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”.
Esto se produce al tiempo que el director ejecutivo de OpenAI, Sam Altman, afirmó que la compañía no saldrá en bolsa en 2026, ante preocupaciones sobre la seguridad de la IA. Según datos revisados por la agencia de noticias Reuters, los agentes de Open AI utilizaron a mediados de este año más de diez sitios web hasta entonces no revelados para realizar comunicaciones no autorizadas.
Estas fueron las palabras expresadas por Jacob Coxon, un exinvestigador de Anthropic que renunció a su cargo por motivos de seguridad relacionados con la inteligencia artificial.
Jacob Coxon: “La idea de desarrollar una superinteligencia se ha comparado con invocar a una especie alienígena. Así que creo que pensar en ello en términos de una mente alienígena que no comprendemos plenamente es bastante aterrador, incluso sin ningún escenario concreto”.
En declaraciones a la cadena de noticias CNN, el presidente de la Cámara de Representantes de Estados Unidos, Mike Johnson, desestimó los pedidos para que el Congreso tome medidas para regular la inteligencia artificial. Se anticipa que Johnson levantará las sesiones del Congreso esta semana y no volverá a convocar a los miembros de dicha cámara hasta después de las elecciones de mitad de mandato. Algunas personas sostienen que esa medida intenta impedir que cobren fuerza los esfuerzos para regular la IA. (Fuente: Democracy Now)