Используем ИИ строго не по назначению.
Заметки про ИИ, IT, компьютерные игры, и всякие инженерные интересности.
Post #4963
3.55K
DOGE + ChatGPT - AI как цензор гуманитарных наук
или как промпт в 120 символов решил судьбу тысяч грантов
Помните как DOGE Маска резал бюджеты по всему правительству? Ну так вот, NYT раскопали как именно они решали какие гранты Национального фонда гуманитарных наук (ибо NEH) резать.
Спойлер: ChatGPT промптом.
Промпт (дословно): "Does the following relate at all to D.E.I.? Respond factually in less than 120 characters. Begin with 'Yes' or 'No.'"
То есть буквально - скопировали описания грантов из интернета, скормили ChatGPT, и если ответ "Yes" - грант отменен. Без рецензии. Без экспертов. Без контекста. 120 символов на решение судьбы исследования.
Tl, dr:
- промпт на 120 символов решает судьбу многолетних исследований
- описания грантов не из оригинальных заявок а с кратких интернет-описаний
результаты были "sweeping, and sometimes bizarre" (их слова, не мои)
- глава робототехники OpenAI Caitlin Kalinowski уволилась из-за контракта с Пентагоном на следующий день
- сам DOGE уже не существует - Маск ушел, агентство развалилось за 8 месяцев до конца мандата
Самое прекрасное - они даже не читали оригинальные заявки на гранты. Взяли краткие описания из интернета и спросили у чатбота "это DEI или нет". В 120 символах. Для контекста - это меньше чем один твит.
Все идет по плану. AI для того чтобы не думать - используем строго по назначению.
@derplearning
или как промпт в 120 символов решил судьбу тысяч грантов
Помните как DOGE Маска резал бюджеты по всему правительству? Ну так вот, NYT раскопали как именно они решали какие гранты Национального фонда гуманитарных наук (
Спойлер: ChatGPT промптом.
Промпт (дословно): "Does the following relate at all to D.E.I.? Respond factually in less than 120 characters. Begin with 'Yes' or 'No.'"
То есть буквально - скопировали описания грантов из интернета, скормили ChatGPT, и если ответ "Yes" - грант отменен. Без рецензии. Без экспертов. Без контекста. 120 символов на решение судьбы исследования.
Tl, dr:
- промпт на 120 символов решает судьбу многолетних исследований
- описания грантов не из оригинальных заявок а с кратких интернет-описаний
результаты были "sweeping, and sometimes bizarre" (их слова, не мои)
- глава робототехники OpenAI Caitlin Kalinowski уволилась из-за контракта с Пентагоном на следующий день
- сам DOGE уже не существует - Маск ушел, агентство развалилось за 8 месяцев до конца мандата
Самое прекрасное - они даже не читали оригинальные заявки на гранты. Взяли краткие описания из интернета и спросили у чатбота "это DEI или нет". В 120 символах. Для контекста - это меньше чем один твит.
Все идет по плану. AI для того чтобы не думать - используем строго по назначению.
@derplearning
- 🤣 28
- 🗿 11
- 😎 8
- 🤬 7
- ❤ 4
- 🤡 3
- 👍 2










