🧠 Джейкоб Коксон йде з Anthropic і написав застережливий відкритий лист у твіттері

Він працював над дослідженнями в OpenAI та в Anthropic і застерігає, що (тезово):

• Жодна з компаній не діє відповідально. OpenAI взагалі не оцінює ризиків. Anthropic оцінює і розуміє ризики, але вже включились в гонку, знаючи, що інші гравці діють безвідповідально, тому дістатись до суперінтелекту першими.
• Скоро АІ розвинеться у надлюдські системи, які зможуть зламувати все, робити технологічні зсуви у будь-якій сфері, захоплювати реальні ресурси.
• Люди, які створюють АІ приватно діляться, що він здатен вбити нас усіх до кінця десятиліття. Тим часом керівники компаній применшують загрози.
• Він не вірить, що найближчим часом будуть якісь обмеження на розвиток АІ. Попереду лише АІ-годка, яка вже почалась.
• Завершується лист риторичним запитанням до дослідників: чи готові ви випускати у світ суперінтелект, не розуміючи, що відбувається у його розумі? Схилити голову, бо "це так чи інакше відбувається", чи вимагати змін?