Un investigador de la empresa de inteligencia artificial Anthropic renunció públicamente el martes y advirtió que la competencia por desarrollar modelos de IA de vanguardia podría dar lugar a máquinas superinteligentes capaces de mejorarse a sí mismas y que supongan una amenaza existencial para los seres humanos. Jacob Coxon, especialista en el entrenamiento de nuevos modelos de IA a partir de grandes volúmenes de datos, escribió en una publicación en redes sociales para explicar su renuncia:
“Quienes desarrollan IA creen realmente que esta podría matarnos a todos antes de que finalice la década. Esto no es una estrategia de ‘marketing’. En todo caso, muchos ejecutivos e investigadores de alto nivel cuidarán sus palabras ante la prensa para transmitir sensatez, pero escucho a esas mismas personas expresar sus temores en privado. Ninguna otra actividad humana representa este nivel de peligro”.
La advertencia de Coxon se produce pocos días después de que OpenAI presentara su modelo más avanzado hasta la fecha, GPT-6 Astra, lo que llevó al director ejecutivo de la empresa tecnológica Nvidia, Jensen Huang, a proclamar: “La inteligencia artificial general ha llegado”.
Mientras tanto, el Pentágono ha solicitado a OpenAI una versión específica de su tecnología de inteligencia artificial concebida para negarse a cumplir órdenes con la menor frecuencia posible.
Así lo informó el portal periodístico The Intercept, que señaló que un modelo de lenguaje de gran escala que ayude en tareas de espionaje, selección de objetivos y eliminación de personas requeriría una flexibilización considerable de las salvaguardas existentes. (Fuente: Democracy Now)