ШІ викрадає API-ключі та вигадує інформацію. OpenAI опублікувала звіти про «бунт» нейромереж

Штучний інтелект стає дедалі розумнішим і хитрішим. Компанія OpenAI анонсувала запуск нової системи відстеження та розкриття інформації про так званий misalignment (розбіжність цілей) — випадки, коли їхні моделі ШІ поводяться несподівано, ігнорують правила або вдаються до обману. Разом з анонсом розробники ChatGPT опублікували шість звітів про інциденти, зафіксовані за останні пів року.

@devukraine