Звіт OpenAI зафіксував понад 20 кібератак, створених за допомогою ChatGPT
OpenAI заявляє, що працюватиме із спільнотою, щоб уникнути подібних експлойтів. Якщо є одна ознака того, що ІІ приносить більше проблем, ніж користі, OpenAI підтверджує, що сталося понад двадцять кібератак, всі вони були створені за допомогою ChatGPT. Звіт підтверджує, що генеративний ІІ використовувався для проведення фішингових атак, налагодження та розробки шкідливого ПЗ, а також для здійснення іншої шкідливої діяльності. Звіт підтверджує дві кібератаки із використанням генеративного ІІ ChatGPT. Cisco Talos повідомила про першу атаку у листопаді 2024 року, яку використали китайські зловмисники, націлені на азіатські уряди. У цій атаці використовувався метод цільового фішингу під назвою SweetSpecter, що включає ZIP-файл зі шкідливим файлом, який при завантаженні та відкритті створює ланцюжок зараження в системі користувача. OpenAI виявила, що SweetSpecter був створений за допомогою кількох облікових записів, які використовували ChatGPT для розробки скриптів та виявлення вразливостей за допомогою інструменту LLM.
Друга кібератака з використанням ІІ була здійснена іранською групою під назвою «CyberAv3ngers», яка використовувала ChatGPT для експлуатації вразливостей та крадіжки паролів користувачів із ПК на базі macOS. Третя атака, яку очолює інша іранська група під назвою Storm-0817, використовувала ChatGPT для розробки шкідливого ПЗ для Android. Шкідливе програмне забезпечення викрадало списки контактів, отримувало журнали дзвінків та історію браузера, отримувало точне розташування пристрою та отримувало доступ до файлів на заражених пристроях.
Всі ці атаки використовували існуючі методи для розробки шкідливого програмного забезпечення, і, згідно з звітом, не було жодних ознак того, що ChatGPT створив істотно нове зловмисне програмне забезпечення. Незалежно від цього, це показує, як легко зловмисникам обдурити служби генеративного ІІ, щоб створити шкідливі інструменти для атак. Це відкриває нову банку черв'яків, показуючи, що будь-якій людині з необхідними знаннями простіше запустити ChatGPT, щоб зробити щось із злим наміром. Хоча є дослідники безпеки, які виявляють такі потенційні експлойти, щоб повідомити і виправити їх, такі атаки створюють необхідність обговорити обмеження реалізації генеративного ІІ.
На даний момент OpenAI приходить до висновку, що вона продовжить удосконалювати свій ІІ, щоб запобігти використанню таких методів. Тим часом вона працюватиме із внутрішніми командами з безпеки. Компанія також заявила, що продовжить ділитися своїми висновками з колегами з галузі та дослідницькою спільнотою, щоб запобігти виникненню такої ситуації.
Хоча це відбувається з OpenAI, було б контрпродуктивно, якби великі гравці зі своїми власними платформами генеративного ІІ не використовували захист, щоб уникнути таких атак. Однак, знаючи, що запобігти таким атакам складно, відповідні компанії ІІ потребують заходів безпеки, щоб запобігати проблемам, а не усувати їх.