Інформаційна корпоративна служба

OpenAI у співпраці з Microsoft Threat Intelligence виявили та деактивували акаунти, що належать 5 угрупованням, пов'язаним з кіберзлочинцями та державами. Це свідчить про те, що штучний інтелект (ШІ) може використовуватися не лише для добрих, але й для зловмисних цілей.

 

Які ж групи були викриті, для чого їм знадобились моделі OpenAI та які конкретні приклади їх злочинної діяльності можна навести?

 

1 Charcoal Typhoon (Китай):

 

* Мета: дослідження різних компаній та інструментів кібербезпеки, налагодження та написання коду, створення контенту для фішингових кампаній.

* Приклади:

    * Використання ChatGPT для генерування реалістичних фішингових листів, що імітують листи від легальних компаній.

    * Використання DALL-E 2 для створення фейкових зображень та відео, які могли б використовуватися для обману людей.

 

2 Salmon Typhoon (Китай):

 

* Мета: переклад технічних статей, збір загальнодоступної інформації про розвідувальні агенції, програмування, дослідження способів приховування процесів в операційній системі (для створення вірусів).

* Приклади:

    * Використання GPT-3 для перекладу великих обсягів технічної документації з англійської мови на китайську.

    * Використання Codex для автоматичного написання коду для шкідливих програм.

 

3 Crimson Sandstorm (Іран):

 

* Мета: написання веб/мобільних додатків для текстової підтримки, створення фішингового контенту, дослідження способів, щоб шкідливе програмне забезпечення не було виявлено.

* Приклади:

    * Використання GPT-3 для створення чат-ботів, які могли б імітувати реальних людей та викрадати особисту інформацію у користувачів.

    * Використання DALL-E 2 для створення фейкових веб-сайтів, які виглядають як легальні.

 

4 Emerald Sleet (Північна Корея):

 

* Мета: виявлення експертів та організацій, що займаються питаннями оборони в Азіатсько-Тихоокеанському регіоні, аналіз загальнодоступних вразливостей, написання сценаріїв та підготовка контенту для фішингових кампаній.

* Приклади:

    * Використання Bing Search API для пошуку інформації про експертів з кібербезпеки та оборонних організацій.

    * Використання GPT-3 для створення фейкових новинних статей, які могли б використовуватися для поширення дезінформації.

 

5 Forest Blizzard (Росія, пов'язана з ГРУ):

 

* Мета: дослідження відкритих джерел в області протоколів супутникового зв'язку та технологій радіолокаційної візуалізації, програмування.

* Приклади:

    * Використання GitHub Copilot для автоматичного написання коду для програм шпигунства.

    * Використання DALL-E 2 для створення фейкових супутникових знімків.

 

Це лише кілька прикладів того, як кіберзлочинці можуть використовувати ШІ. Важливо пам'ятати, що моделі ШІ наступного покоління будуть ще більш ефективними у виконанні таких завдань.

 

Тому важливо вживали заходів для запобігання зловмисному використанню ШІ.

 

https://openai.com/blog/disrupting-malicious-uses-of-ai-by-state-affiliated-threat-actors