ChatGPT выдумал преступление и обвинил в нем норвежца

Пользователь чата GPT Арве Хьялмар Холмен хотел посмотреть, что искусственный интеллект знает о нем, на что нейронка выдала, что норвежец убил двух своих сыновей, затем покушался на третьего и был приговорен к 21 году под стражей.

Мало того, что нейронка от OpenAI выдумала преступление, она использовала реальную информацию о Холмене: количество детей, их пол и место жительства.

В новых версиях ChatGPT, которые подключены к интернету, ложная информация о Холмене больше не появляется. Но ссылка на оригинальный чат все еще доступна, а значит, данные могут лежать в базах OpenAI, плюс ИИ может на них обучаться. Юристы считают, что закрыть доступ к фейкам в таком случае недостаточно — нужно полностью убрать их из системы.

Юристы пытаются заставить норвежских регуляторов вынести решение, которое обяжет компанию либо изменить свои алгоритмы, либо ограничить использование личных данных Холмена, либо заплатить штраф.

Так что прежде чем говорить про восстание роботов, нам еще надо научиться регулировать более приземлённые вопросы.

@your_tech