TGViewer
IsChemist, PhD IsChemist, PhD @ischemist · 2.07K subscribers
Post #2387 1.17K
За узким кругом e/acc и людей напрямую работающих над ИИ, вполне естественным образом у читателя может возникнуть вопрос: а мы не просили создание ИИ моделей, которые способны на кибератаки.

Ирония в том, что эти возможности появились естественным образом в результате попыток улучшить их способности написания кода.

И если вы скажете, а мне и для обычного кода ЛЛМки не нужны, я вас направлю к предыдущей фуге где объясняю что общество сильно недооценивает насколько миру не хватает софта.

И порекомендую третий голос, где замечу, что то, как общество справится с текущим вызовом это тренировочный раунд если мы всерьез хотим увидеть универсальную систему для вылечивания всех болезней.

Потому что есть одна очень фундаментальная проблема...

https://ischemist.com/writings/fugues/ai-changed-the-math/ai-dual-use-dilemma
Anton Morgunov The inevitable dual-use problem of frontier AI AI trained to code and became an expert hacker. When we train it to cure disease, it will become a chemical weapons designer. This cybersec challenge is our society's only test run for when the stakes are biological
  • 🔥 8
  • ❤‍🔥 1
More from @ischemist
  1. May 15, 2026Last September, Apple said it leveraged its hardware and operating system expertise into a…
  2. May 14, 2026Что можно сделать для минимизации риска? Если вы здравый разраб, то вы скорее всего уже по…
  3. May 14, 2026Как вы могли заметить, это снова фуга. В первом голосе я передаю свое понимание причин/мех…
  4. May 14, 2026Некоторые могут отнестись к этому всему со скепсисом. А че мне терять?
  5. May 14, 2026Unfortunately, if you’re doing anything of economic / societal value, you must immediately…
  6. May 14, 2026В понедельник прошла массовая supply chain атака на ветку обожаемых всеми библиотек TanSta…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →