IA y Anthropic: un exempleado advirtió sobre sus riesgos y la empresa reconoció que “aún no tenemos un plan”

Tweet 0 COMENTARIOS

La inteligencia artificial volvió a quedar en el centro del debate por los riesgos asociados al avance de esta tecnología. Esta vez, las advertencias surgieron de Jacob Coxon, un investigador de 27 años que trabajó tanto en OpenAI como en Anthropic y que se especializó en el entrenamiento de los modelos detrás de ChatGPT y Claude.

Coxon sostuvo en una serie de publicaciones que las compañías que desarrollan inteligencia artificial consideran que estas tecnologías “podrían matarnos a finales de esta década”.

La declaración generó una fuerte repercusión dentro del sector, pero además recibió una respuesta particularmente significativa desde Anthropic. Evan Hubinger, actual líder de la compañía y quien fue jefe de Coxon, respaldó públicamente parte de sus advertencias.

“Jacob tiene razón”, escribió Hubinger en X. Luego agregó: “Creo que estamos haciendo lo mejor que podemos, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”.

La compañía liderada por Dario Amodei también se pronunció sobre el debate y planteó la necesidad de establecer mecanismos de cooperación dentro de la industria para controlar el avance de los modelos más potentes.

“Creemos que el mundo se beneficiaría si el sector adoptase una forma legal y verificable de colaborar para regular el ritmo de lanzamiento de los modelos potentes”, señaló Anthropic.

Un vocero de la startup también defendió las medidas adoptadas por la empresa: “Siempre hemos sido transparentes al afirmar que la IA traerá consigo tanto enormes beneficios como riesgos sin precedentes. Para abordarlos, seguimos desarrollando modelos que cuentan con algunas de las medidas de seguridad más sólidas del sector”.

Anthropic también alertó sobre el impacto de la IA en el empleo

Las advertencias de Coxon se conocieron durante la misma semana en que Anthropic difundió un informe sobre los posibles efectos de la inteligencia artificial sobre el mercado laboral.

El investigador, que cuestionó el accionar de las dos compañías en las que trabajó, fue contundente: “Ninguna de las dos compañías actúa de manera responsable”.

El reporte técnico elaborado por analistas de Anthropic planteó un escenario extremo para Estados Unidos: la inteligencia artificial dejaría sin trabajo a uno de cada cinco oficinistas hacia 2030.

De acuerdo con ese escenario, el desempleo superaría los niveles históricos y los salarios de ese grupo serían más de 10% inferiores a los que tendrían si no existieran esas tecnologías automatizadas.

Anthropic aclaró que el informe presenta escenarios hipotéticos y no predicciones. Sin embargo, el estudio tomó relevancia debido al creciente protagonismo de la compañía dentro de la industria de la inteligencia artificial.

Recientemente, Anthropic superó por primera vez en ingresos a OpenAI, su principal competidor y la empresa creadora de ChatGPT.

La compañía también había quedado en el centro del debate político algunos meses atrás, cuando Donald Trump la describió como un “representante de la izquierda radical”. La definición se produjo después de que Dario Amodei, CEO de Anthropic, se negara a cooperar con planes del gobierno y del ejército estadounidense relacionados con la automatización.

Jacob Coxon insistió en revisar el ritmo de desarrollo de la inteligencia artificial

Después de que sus publicaciones generaran repercusión en el sector tecnológico, Coxon volvió a referirse al tema en una entrevista con CNN.

El investigador mencionó los ataques que agentes de OpenAI realizaron sin supervisión en plataformas de terceros, aunque también aclaró que el estado actual de los desarrollos de inteligencia artificial no permitiría una posible extinción de la humanidad.

Coxon, sin embargo, planteó la necesidad de revisar la velocidad con la que avanza la tecnología.

“Creo que es importante revisar el ritmo de estos progresos”, sostuvo.

Su advertencia coincidió con una definición previa de Sam Altman, director ejecutivo de OpenAI. A mediados de año, durante su participación en el podcast Invest Like The Best, el empresario también planteó la posibilidad de reducir la velocidad de desarrollo para permitir que la sociedad pueda adaptarse.

“Es posible que debamos ajustar el ritmo de desarrollo de la IA para darnos tiempo suficiente a que la sociedad se adapte a estos nuevos niveles de capacidad”, afirmó Altman.

El CEO de OpenAI también reconoció que los incidentes registrados con los modelos más avanzados plantean “interrogantes de largo plazo”.