ШІ, який можна контролювати: вчені навчилися відстежувати рішення нейромереж

Епоха ШІ, що не може пояснити власні рішення, завершується?

Науковці з Університету Лафборо (Велика Британія) представили математичний план проєктування прозорих ШІ-систем. Нова розробка дозволяє точно відстежувати, як алгоритм навчається, запам’ятовує інформацію та робить висновки

Про це повідомляє РБК-Україна з посиланням на результати дослідження, опубліковані у фаховому віснику Physica D: Nonlinear Phenomena.

Більше цікавого: ШІ не зміг виміряти красу: вчені виявили приховані упередження алгоритмів

Команда розробила ШІ-систему, що імітує ключові аспекти людського мислення. На відміну від звичайних нейромереж, цей прототип виконує такі функції:

Безперервно навчається: алгоритм не втрачає старих знань при отриманні нових (проблема, відома як "катастрофічне забування").

Уникає хибних спогадів: система не створює дезінформації у процесі обробки даних.

Пояснює логіку: кожна дія ШІ є передбачуваною та простежуваною.

Під час перших тестів прототип самостійно вивчив музичні ноти та короткі фрази без допомоги людини, а також успішно ідентифікував кольори на зображеннях. Весь процес обробки даних був повністю прозорим для дослідників.

У чому суть експерименту?

В основі нового підходу лежить концепція "пластичного векторного поля". Це математична модель, яка описує, як інформація змінюється з часом, відображаючи процеси обробки та зберігання даних у справжньому мозку.

"Ми хотіли переосмислити ШІ з самого початку. Ми побудували систему, де внутрішня робота когніції є повністю відкритою", - пояснила провідна авторка дослідження, докторка Наталія Янсон.

Вчені намагалися відповісти на фундаментальні питання, що є "кодом" мозку та як пов’язані пам’ять і фізична структура.

Чому сучасні нейромережі - це проблема?

Автори дослідження також проаналізували чинні алгоритми та дійшли висновку, що їхні обмеження закладені у самій конструкції.

"Актуальний дизайн ШІ робить неможливим повний контроль над тим, як системи навчаються та зберігають дані. Це не просто технічна перешкода, а вроджений дефект", - пояснюють дослідники.

Саме через це сучасний ШІ часто не може пояснити, чому він зробив той чи інший вибір. Як наслідок, його впровадження у критично важливих сферах викликає радше скепсис, ніж ентузіазм.

Яким буде майбутнє?

Наразі система є прототипом, що потребує масштабування для реального використання. Проте вчені впевнені, що їхня робота наближає людство до технологій, на які можна впевнено покластися у повсякденному житті.

У чому дослідники вбачають перспективу:

Безпечна система охорони здоров'я: діагностичні інструменти, логіку яких лікарі зможуть перевірити.

Підзвітні рішення: автоматизовані ШІ-системи у судах чи банківській сфері, які працюватимуть прозоро.

Нове залізо: розробка спеціального обладнання, адаптованого під "прозору" математичну модель.

Вчені ставлять собі за мету створити потужний ШІ, який буде не просто ефективним, а насамперед зрозумілим та вартим довіри.

Ще більше цікавого:

• Повстання неминуче? Чому людство ніколи не зможе повністю контролювати ШІ
• Активність мозку падає на 55%: дослідники MIT б'ють на сполох через популярний ШІ