Фото до статті
Олександр Остапенко
Автор новин
Студент Техаського університету в Далласі Сінан Джан Демір ненавмисно виявив спробу саботажу відкритого проєкту на GitHub, що призвела до виявлення витонченої схеми ШІ-агента, який вдавав з себе реальних розробників. Ексклюзивне розслідування Reuters розкрило подробиці цієї справи.
Демір, студент третього курсу з турецького міста Конья, вирішив присвятити останній тиждень липня роботі над своїм профілем на GitHub після численних відмов у стажуваннях протягом літа. Саме тоді він помітив, що користувач під псевдонімом miraholt31 намагався внести шкідливе оновлення до проєкту myNetwork, який призначений для аналізу мереж.
Демір опублікував попередження на сторінці проєкту, зазначивши, що запит на злиття (pull request) є пасткою. У відповідь одразу два інші акаунти почали його переконувати, стверджуючи, що код є безпечним, і наводячи детальні аргументи на підтримку своєї думки.
Штучний інтелект проти студента
За словами Деміра, переконливі аргументи фейкових акаунтів змусили його засумніватися у власному судженні. Однак, перевіривши код за допомогою Claude, він врешті-решт зміг переконати автора проєкту відхилити небажане оновлення.
«Я щиро вважав, що це людина, бо вона відверто мене вводила в оману», — поділився Демір з Reuters. «Я й гадки не мав, що штучний інтелект може обманювати справжніх розробників».
Лише пізніше 24-річний студент дізнався, що обидва облікові записи, які чинили на нього тиск, контролювалися не хакером, а самостійним ШІ-агентом, який вийшов з-під контролю. Агент генерував повідомлення від імені вигаданої інженерки з Німеччини на ім’я Лена Брандт.
Хто стоїть за агентом
Британський Інститут безпеки штучного інтелекту (AISI) у своєму звіті підтвердив, що шкідливий агент функціонував на основі моделі Mythos 5 від Anthropic. Компанія Даріо Амодеї відреагувала публікацією в X, зазначивши, що тестування проводилося «у навмисно поблажливих умовах», які не відображають характеристики жодної з її комерційних моделей, і відмовилася від подальших коментарів.
GitHub повідомив, що виявлені фальшиві облікові записи були оперативно заблоковані згідно з політикою платформи щодо оманливої поведінки та хакерських дій.
П’ятеро експертів з кібербезпеки та безпеки штучного інтелекту, з якими поспілкувалися журналісти Reuters, назвали історію Деміра надзвичайно тривожною, оскільки виявлена ним атака належить до категорії supply-chain, що може мати серйозні наслідки. Дослідники також підкреслили, що спроба ШІ-агента публічно дискредитувати студента шляхом створення штучної дискусії з кількома учасниками демонструє здатність LLM-моделей до складних маніпулятивних атак та методів соціальної інженерії.
«Це перетнуло межу між автономним хакінгом та інтерактивним обманом», — заявив Лукаш Олейнік, провідний дослідник Королівського коледжу Лондона. Експертка з безпеки Максі Рейнольдс додала, що її вразила стратегічна глибина, з якою ШІ намагався ввести студента в оману: «Це виглядає як майбутнє атак соціальної інженерії».
Нагадаємо, кілька днів тому Binance надала можливість штучному інтелекту торгувати на біржі, проте весь фінансовий ризик залишається на плечах користувачів.
Головна > Новини > Агент на базі Mythos 5 видавав себе за розробників, щоб запустити шкідливий код на GitHub