Лемма Лема о ловушке машинного интеллекта
Многие предположения Станислава Лема обогнали свое время, а его Кибериада (1979) содержит модели (вымышленные) почти всех ловушек, в которые попали нынешние IT. Например, ловушка двух видов машин:
1. Философ – машина с малым объемом данных, но мощной аналитикой, способной по капле воды предсказать океаны со штормами, волнами и акулами.
2. Мнемоник - машина с гигантским объемом данных, но слабой аналитикой, способной лишь взять из памяти готовый ответ.
Т.е. Философ решает задачи, а Мнемоник - ищет ответы в конце учебника (если они есть)
Ловушка в том, что пока задачи лежат в хорошо исследованной области, ответы обеих машин будут близки по качеству (но Мнемоник выиграет по очкам). Мнимость интеллекта Мнемоника проявится в самый неподходящий момент: когда критически важно будет получить качественное решение задачи в сравнительно новой предметной области.
P.S. Почему большим языковым моделям ИИ надо так много данных для обучения?
*) Лемма: греч. λημμα — предположение
Post #84
520

- 👍 8