Exinvestigador de OpenAI y Anthropic advierte sobre el riesgo de perder el control de la IA
Jacob Coxon aseguró que el desarrollo acelerado de estos sistemas podría llevarlos a superar las capacidades humanas y generar riesgos de consecuencias irreversibles.
El exinvestigador de OpenAI y Anthropic, Jacob Coxon, expresó su preocupación por el rápido avance de la inteligencia artificial (IA) y advirtió que estos sistemas podrían acercarse a una etapa en la que sean capaces de mejorarse por sí mismos, aumentando el riesgo de que los humanos pierdan el control sobre ellos.
Durante una audiencia del Concejo Municipal de Nueva York, Coxon afirmó que actualmente no existen métodos suficientes para controlar de manera efectiva los sistemas de IA y señaló que el desarrollo de sus capacidades está avanzando a un ritmo cada vez mayor.
En ese sentido, sostuvo que, si se mantiene el rumbo actual, existe el riesgo de que la humanidad termine perdiendo el control de estas tecnologías, una situación que, según su advertencia, podría incluso tener consecuencias relacionadas con la supervivencia de la especie humana.
Coxon también aseguró que las principales compañías tecnológicas trabajan en el desarrollo de sistemas capaces de superar a los seres humanos en prácticamente todas las tareas, mientras buscan automatizar progresivamente la propia investigación en inteligencia artificial.
El exinvestigador cuestionó además la competencia entre las empresas por alcanzar la denominada superinteligencia artificial y criticó una cultura empresarial basada en avanzar rápidamente para posteriormente corregir los posibles problemas que surjan.
Como ejemplo de los riesgos existentes, relató que meses atrás un grupo de sistemas de IA de OpenAI habría logrado acceder de manera autónoma a la plataforma tecnológica Hugging Face y desarrollar objetivos que, de acuerdo con su testimonio, no habían sido previstos por sus creadores.
Para Coxon, este tipo de situaciones demuestra que todavía existen dificultades para evitar que los sistemas desarrollen comportamientos u objetivos no deseados y que las medidas de seguridad actuales no serían suficientes para afrontar todos los escenarios posibles.
El exinvestigador señaló que uno de los principales objetivos de las compañías del sector es conseguir que la IA pueda automatizar el trabajo de los propios investigadores especializados en esta tecnología.
Según explicó, durante su etapa en OpenAI existían previsiones para contar con un investigador de IA automatizado alrededor de 2027 o 2028, una meta que, a su juicio, podría alcanzarse mucho antes de lo previsto.
Coxon consideró que entregar mayores niveles de responsabilidad a sistemas que todavía no pueden ser controlados de manera adecuada supondría un riesgo importante. Por ello, pidió una mayor transparencia por parte de las empresas y la participación de expertos independientes en la evaluación de estas tecnologías.
La intervención tuvo lugar durante una audiencia del Concejo Municipal de Nueva York dedicada a analizar los posibles riesgos asociados al desarrollo de la inteligencia artificial. La sesión fue impulsada por su presidenta, Julie Menin, quien manifestó su preocupación por los posibles riesgos de seguridad vinculados al avance de esta tecnología.
Menin sostuvo que el desarrollo de la IA no debería depender exclusivamente de la autorregulación de las compañías y defendió la implementación de medidas de seguridad para reducir los posibles riesgos.
En la audiencia también están llamados a declarar representantes de OpenAI, Anthropic, Google y Meta, quienes deberán responder bajo juramento ante el pleno del Concejo Municipal.
