Пишем и говорим про разработку.
YT: youtube.com/@myobrecheny
VK: vkvideo.ru/@myobrecheny
Реклама - https://clck.ru/3Sr2af
По вопросам размещения - @aaantooon
Регистрация в перечне РКН: https://www.gosuslugi.ru/snet/676ab5004e740947beabfda2
Post #1760
664
У меня снова есть глупый вопрос об очередных похождениях сбежавших агентов.
Сегодня выяснилось, что летом сбежавшие модели OpenAI добежали аж до Австралии, взломали там государственный сайт и получили доступ к данным медицинской системы. Люди узнали об этом сильно позднее, новость о взломе до Австралийского правительства дошла только в сентябре.
И вот сегодня они выразили озабоченность. Что мол эти агенты себе позволяют! Никто их туда не звал!
Но тут же поспешили успокоить общественность. Ничего конкретного модели якобы там не нашли, ни банковских счетов, ни историй болезней, ничего персонального. Только всякое обезличенное неважное.
И вот мне интересно — а если бы нашли? Если бы агент добрался до важных данных, то что?
На следующий день появилась бы новость, что модель OpenAI свернула на воровскую дорожку, продала украденные данные в даркнтете и купила себе дата центр с бассейном на берегу океана. Не появилась бы.
То есть, в чем конкретная опасность взлома системы моделью, которую никто специально ломать не отправлял?
Люди боятся, что раз модель может взломать сама — то кто-то сможет ее и натравить?
Или что раз сама взломала, то сама может так же не специально все стереть и попортить?
Или что после этого Чат Джипити будет выдавать ваши медицинские данные любому, кто попросит?
Если так, то ок, я понимаю обеспокоенность.
Но нет ли на самом деле в этой обеспокоенности простого суеверного одушевления компьютерной системы? Приписывания ей человеческих качеств и намерений? Раз ломает где нельзя — значит злодейка.
И нам бы не хотелось чтобы одушевленный компьютер читал наши истории болезней?
Потому что рано или поздно им все равно скормят ВООБЩЕ ВСЕ что существует в цифровом виде
Сегодня выяснилось, что летом сбежавшие модели OpenAI добежали аж до Австралии, взломали там государственный сайт и получили доступ к данным медицинской системы. Люди узнали об этом сильно позднее, новость о взломе до Австралийского правительства дошла только в сентябре.
И вот сегодня они выразили озабоченность. Что мол эти агенты себе позволяют! Никто их туда не звал!
Но тут же поспешили успокоить общественность. Ничего конкретного модели якобы там не нашли, ни банковских счетов, ни историй болезней, ничего персонального. Только всякое обезличенное неважное.
И вот мне интересно — а если бы нашли? Если бы агент добрался до важных данных, то что?
На следующий день появилась бы новость, что модель OpenAI свернула на воровскую дорожку, продала украденные данные в даркнтете и купила себе дата центр с бассейном на берегу океана. Не появилась бы.
То есть, в чем конкретная опасность взлома системы моделью, которую никто специально ломать не отправлял?
Люди боятся, что раз модель может взломать сама — то кто-то сможет ее и натравить?
Или что раз сама взломала, то сама может так же не специально все стереть и попортить?
Или что после этого Чат Джипити будет выдавать ваши медицинские данные любому, кто попросит?
Если так, то ок, я понимаю обеспокоенность.
Но нет ли на самом деле в этой обеспокоенности простого суеверного одушевления компьютерной системы? Приписывания ей человеческих качеств и намерений? Раз ломает где нельзя — значит злодейка.
И нам бы не хотелось чтобы одушевленный компьютер читал наши истории болезней?
Потому что рано или поздно им все равно скормят ВООБЩЕ ВСЕ что существует в цифровом виде
- 👍 5
- ❤ 1



