CEO de Anthropic reitera riesgos de IA e insiste en reducir su velocidad
Dario Amodei, CEO de Anthropic, advirtió sobre los riesgos asociados al desarrollo acelerado de la inteligencia artificial y pidió establecer mayores controles para supervisar esta tecnología.
Darío Amodei, CEO de Anthropic, reiteró el llamado a moderar la velocidad con la que avanza la inteligencia artificial y advirtió sobre los riesgos que podría enfrentar la sociedad si el desarrollo de estos sistemas continúa sin mayores controles.
En una entrevista con CNN, Amodei abordó las preocupaciones en torno a la seguridad de la IA, el ritmo de desarrollo de los nuevos modelos y las consecuencias que podría tener el avance de sistemas cada vez más capaces.
Uno de sus principales planteamientos fue precisamente reducir la velocidad de la carrera tecnológica que mantienen las grandes compañías del sector.
Según explicó, una pausa o una desaceleración permitiría que los gobiernos, las instituciones y la sociedad tengan más tiempo para prepararse antes de que los modelos alcancen capacidades que puedan resultar difíciles de predecir o controlar.
La posición del empresario se suma a las advertencias que en los últimos meses han surgido desde distintos sectores de la industria tecnológica.
Más de 1.300 líderes y especialistas del sector han respaldado llamados para establecer mayores controles sobre el desarrollo de la inteligencia artificial. Incluso Sam Altman, CEO de OpenAI, ha planteado públicamente preocupaciones relacionadas con los riesgos de estos sistemas, mientras que Elon Musk también ha respaldado algunas de las advertencias sobre el ritmo actual de desarrollo.
Pese a su postura crítica, Amodei aclaró que no considera inevitable un escenario catastrófico.
El CEO de Anthropic sostuvo que los riesgos pueden reducirse si las empresas, los gobiernos y la ciudadanía participan activamente en las decisiones que marcarán el rumbo de esta tecnología.
La disputa con China
Durante la conversación con CNN también se abordó la competencia tecnológica entre Estados Unidos y China.
En este punto, Amodei defendió una posición más firme por parte de Washington y señaló la importancia de que Estados Unidos mantenga el liderazgo en el desarrollo de la inteligencia artificial.
A su criterio, ese liderazgo debe ir acompañado de reglas claras que permitan controlar los riesgos asociados con modelos cada vez más avanzados.
Sin embargo, el panorama regulatorio estadounidense todavía presenta vacíos. El Congreso y la Casa Blanca no han logrado establecer un marco integral que defina cómo debe supervisarse el desarrollo de esta tecnología.
Para Amodei, ese retraso aumenta la necesidad de actuar antes de que la capacidad de los sistemas de inteligencia artificial avance a un punto en el que resulte mucho más difícil establecer límites.