Схоже на коров’ячий сказ. Учені дали тривожний прогноз майбутнього ШІ

Вс, 08/04/2024 - 12:18 — Goodwin
28b0ba663752daa02dfe2fce455729a5.jpg

Генеративні моделі штучного інтелекту (ШІ), такі як OpenAI GPT-4 і Stable Diffusion від Stability AI, показують дивовижні здібності у створенні тексту, коду, зображень і відео. Однак для їхнього навчання потрібні величезні обсяги даних, і розробники вже стикаються з нестачею цих ресурсів.

У цьому контексті використання синтетичних даних видається привабливим варіантом: вони дешевші, не обмежені в поставках і знижують ризики конфіденційності.

 
Читайте також:

Meta AI ігнорував запитання про Дональд Трамп (Фото:REUTERS/David Dee Delgado)«Галюцинації». ШІ від Цукерберга заперечує, що на Трампа скоїли замах

Проте недавнє дослідження групи цифрової обробки сигналів в Університеті Райса виявило, що надлишок синтетичних даних може негативно впливати на майбутні ітерації моделей ШІ. Професор Річард Баранюк пояснив, що навчання на синтетичних даних створює петлю зворотного зв’язку, що призводить до погіршення якості моделей. Це явище дослідники назвали «розладом аутофагії моделі« (MAD), порівнюючи його зі сказом корів.

Коров’ячий сказ, поширений у 1980−90-х роках, став результатом годівлі корів переробленими залишками їхніх же родичів. Аналогічно, генеративні моделі ШІ, що навчаються на синтетичних даних, можуть страждати від циклів, що «самоспоживають», що веде до спотворення і зниження якості результатів.

Дослідження, представлене на Міжнародній конференції з уявлень у навчанні (ICLR), фокусувалося на візуальних моделях ШІ, таких як DALL-E 3, Midjourney і Stable Diffusion. Вчені вивчили сценарії, де реальні та синтетичні дані змішуються в навчальних наборах, виявляючи, що з часом моделі починають генерувати дедалі більш спотворені результати.

 
Читайте також:

За словами Месута Чічека, доцента кафедри маркетингу та провідного автора дослідження, згадка ШІ знижує емоційну довіру (Фото:pixabay)Немає довіри. Згадка про ШІ в описі товарів відлякує потенційних покупців

Проблеми, пов’язані з самоспоживаючими циклами, проявляються не тільки у візуальних моделях, а й у мовних моделях, як зазначають інші дослідники. Для запобігання погіршенню якості моделей важливо забезпечувати достатню кількість свіжих реальних даних, що сприяє здоровому розвитку ШІ.

Таким чином, хоча синтетичні дані можуть тимчасово розв’язати проблему нестачі навчальних даних, довгострокове використання цих даних без свіжих реальних джерел може призвести до значного погіршення якості генеративних моделей ШІ.

New Voice 2024.08.01 19:39
https://techno.nv.ua/ukr/it-industry/ucheni-dali-trivozhniy-prognoz-maybutnogo-shi-50439261.html