Наиболее интересным исследованием ChatGPT было бы исследование вопроса, «понимает» ли он, что такое достоверная информация.

Пока что одни восхищаются его «способностью» написать программу практически на чём угодно, а другие рассматривают бытовые запросы — и в них выясняется, что ChatGPT тоннами генерирует любой связный текст, способный удовлетворить спрашивающего.

В общем, от операции отсечения головы до сочинения несуществующих цитат (которые ChatGPT сопровождает указанием автора, произведения и даже, если попросите, номера страницы).

А вот можно ли «убедить» ChatGPT сообщать только правду, что именно он в этом случае будет сообщать, как он будет определять достоверность информации — вот это на самом деле интересный вопрос.

@sforsecurity