Algunos de los primeros empleados de Anthropic estarían considerando comprar terrenos remotos en EE. UU. como refugio, por si el desarrollo de la IA llegara a tomar un rumbo catastrófico.
Según The Wall Street Journal, empleados también han debatido escenarios apocalípticos y planes de preparación en un Slack privado, mientras que Anthropic cuenta con su propio espacio dentro de la comunidad de seguridad de IA de Berkeley.
El movimiento de seguridad de la IA ha llegado incluso más lejos, con conversaciones sobre pastillas de yodo, islas remotas y búnkeres en el desierto protegidos contra pulsos electromagnéticos.
Los empleados de Anthropic incluso habrían adoptado un lema bastante apropiado:
«Las cosas nunca volverán a ser tranquilas».
Uno de los detalles más llamativos se remonta a una reunión celebrada en Bahamas en 2022, a la que asistieron personas de Anthropic y otros laboratorios de IA. Uno de los almuerzos estaba reservado exclusivamente para quienes estimaban en al menos un 75% la probabilidad de que la humanidad se extinguiera durante los próximos 100 años.
El objetivo era ofrecer a quienes creían que la humanidad estaba condenada un espacio donde no sintieran presión social para minimizar sus opiniones.
Y las raíces de Anthropic en esta forma de pensar son profundas. Más de la mitad de sus cofundadores —entre ellos Dario y Daniela Amodei, Jared Kaplan y Chris Olah— vivieron juntos en una casa compartida de San Francisco donde, según se informa, las conversaciones giraban a menudo en torno a riesgos catastróficos: desde supervolcanes y cometas hasta la posibilidad de que una IA escapara al control humano.
Los mismos que están construyendo algunos de los sistemas de IA más potentes del mundo aparentemente también están pensando en dónde esconderse si todo sale mal.
Fuente
@todoIA