Zuckerberg defiende evaluadores independientes para supervisar la IA, pero rechaza frenar su desarrollo
El CEO de Meta considera que los laboratorios de inteligencia artificial deben avanzar con responsabilidad y adoptar sus propias medidas de seguridad para evitar posibles daños.
El director ejecutivo de Meta, Mark Zuckerberg, planteó que el desarrollo de los sistemas de inteligencia artificial debe contar con la participación de evaluadores y asesores independientes que analicen la seguridad de los modelos, aunque descartó la idea de detener o ralentizar su avance.
A través de una publicación en la red social X, Zuckerberg sostuvo que cada laboratorio de IA tiene tanto la responsabilidad como los incentivos necesarios para desarrollar sus modelos de manera segura. Según explicó, las propias compañías cuentan con la capacidad de establecer las medidas que consideren necesarias durante el entrenamiento de sus sistemas.
El empresario puso como ejemplo a Meta, que decidió retrasar durante varios meses el lanzamiento de su modelo más reciente, Muse, con el objetivo de realizar trabajos adicionales relacionados con su seguridad.
Sin embargo, aclaró que la compañía no pidió a otros laboratorios que hicieran lo mismo. “Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros”, señaló.
La confianza será clave para los modelos de IA
Zuckerberg también se refirió al debate sobre la posibilidad de reducir el ritmo de desarrollo de las capacidades de inteligencia artificial, una propuesta que ha sido planteada por algunos líderes de grandes empresas tecnológicas.
En su opinión, la confianza y la alineación entre los sistemas de IA y sus usuarios se convertirán rápidamente en características fundamentales para diferenciar a los distintos modelos y agentes.
El CEO de Meta argumentó que las compañías tienen importantes razones para evitar que sus sistemas provoquen daños, debido a la responsabilidad que podrían enfrentar si alguno de sus modelos genera consecuencias negativas.
Por esta razón, considera que la contratación de evaluadores y asesores independientes debería convertirse en una práctica habitual dentro de la industria.
Meta apuesta por mantener el desarrollo
Zuckerberg aseguró que Meta ha asumido compromisos relacionados con la seguridad de sus modelos y sostuvo que otros laboratorios también pueden adoptar medidas similares.
Para el empresario, la discusión no debería centrarse en detener el progreso de la inteligencia artificial, sino en encontrar un equilibrio que permita continuar desarrollando estas tecnologías mientras se establecen mecanismos adecuados para controlar sus posibles riesgos.
Según su planteamiento, mantener un equilibrio de poder adecuado será uno de los elementos fundamentales para construir un futuro en el que los avances de la inteligencia artificial puedan beneficiar a la sociedad.
