Los directores de Anthropic y OpenAI advirtieron sobre la necesidad de frenar el desarrollo de modelos avanzados de inteligencia artificial y fortalecer la supervisión externa, en una postura que también recibió el apoyo de Elon Musk.
El debate se intensificó a partir de los cuestionamientos públicos de Jacob Coxon, un investigador que dejó Anthropic tras criticar la velocidad y las condiciones con las que avanza el sector.
Coxon alertó sobre los peligros de que pocas empresas privadas compitan por crear sistemas más potentes sin la supervisión adecuada para una tecnología que podría superar capacidades humanas.
El CEO de Anthropic, Dario Amodei, publicó el ensayo titulado We Must Pace the Frontier, donde planteó que la industria necesita bajar el ritmo para que la seguridad acompañe el desarrollo.
Escribí un nuevo ensayo sobre por qué la industria de la IA debería desacelerar, con un plan de tres partes para hacerlo, indicó Amodei.
Como medida inicial, Anthropic habilitará el acceso permanente de evaluadores externos a sus sistemas bajo condiciones similares a las de su personal.
Sam Altman, CEO de OpenAI, apoyó la propuesta y señaló que el tema fue eje de discusiones recientes dentro de su propia compañía.
Estoy de acuerdo con Dario en que necesitamos moderar el avance de la frontera, afirmó Altman, y confirmó que OpenAI otorgará a evaluadores independientes un acceso similar al de sus empleados para auditar la tecnología.
Es una gran idea y nosotros haremos lo mismo, expresó Altman.
Por su parte, Elon Musk, propietario de SpaceX y fundador de xAI, se sumó a las declaraciones y escribió en redes sociales que Dario tiene razón.
La coincidencia entre los referentes del sector visibiliza el debate sobre cómo regular una tecnología impulsada por la competencia comercial entre distintas compañías.
Mientras las empresas priorizan lanzar modelos avanzados antes que sus competidores, los sistemas de regulación y evaluación enfrentan el desafío de medir los riesgos ante el aumento de la autonomía de estos desarrollos.