Вчені хочуть навчити ШІ відчувати: експеримент може змінити наше уявлення про розум
Чи зможе алгоритм випробовувати справжній біль?
Британські дослідники взялися за створення ШІ, який не просто імітує розмову, а мислить за принципами та моральними категоріями, наближеними до людських.
Про це повідомляє РБК-Україна з посиланням на WIRED.
Ілюзія розуму?В інформаційному просторі часто можна зустріти тезу про те, що ChatGPT чи Claude здобули свідомість. Сучасні великі мовні моделі справді легко проходять тест Тюрінґа, описують внутрішні страждання або глибокі почуття.
З усім тим, за цими текстами немає жодного внутрішнього досвіду.
Більшість розробників ШІ навіть не оперує поняттям "свідомість". Вони зосереджені на досягненні так званого загального штучного інтелекту (AGI) - суто функціональної категорії, яка визначає продуктивність машини й не має стосунку до її здатності відчувати світ.
А проте стартап британського дослідника Деніела Галма, Conscium, ставить перед собою іншу мету.
Заручившись підтримкою нейробіологів та філософів, компанія намагається довести: якщо свідомість існує у людей і тварин, її можна виміряти й відтворити і в алгоритмах.
"Великі мовні моделі - це дуже грубі репрезентації мозку. Навіть ворони, кальмари або амеби взаємодіють із навколишнім середовищем так, як чат-боти не здатні", - зазначає Галм.
Читайте більше: ШІ стане таким самим звичним, як смартфон: прогноз Цукерберга на найближчі 5 років Від принципів фізики до цифрових емоційОсновою для експериментів Conscium стала теорія південноафриканського нейропсихолога Марка Солмса, викладена в його книзі "Сховане джерело".
Дослідник спирається на "принцип вільної енергії" нейробіолога Карла Фристона, за яким мозок працює як система зворотного зв’язку для мінімізації несподіванок.
На думку Солмса, у процесі еволюції людей цей цикл зворотного зв'язку перетворився на систему, керовану емоціями. Саме почуття створюють те, що ми називаємо свідомістю та здатністю відчувати.
Доказом цього є те, що пошкодження стовбура мозку, який відповідає за регуляцію емоцій, призводить до повної втрати свідомості людини.
У своїй лабораторії Солмс реалізував цю концепцію на практиці:
Симульоване середовище: штучні агенти живуть у віртуальному світі та керуються алгоритмами з емоційно-медійованим циклом.
Цифрові почуття: реакції агентів на події адаптуються через симуляцію переживань, схожих на страх, збудження та задоволення.
Внутрішня мотивація: на відміну від звичайних мовних моделей, ці агенти мають власне прагнення досліджувати навколишній простір.
Більше цікавого: Злам Hugging Face був не єдиним: ШІ OpenAI атакував ще одну компанію Майбутнє штучного розумуНаразі дослідження Conscium перебуває на початковому етапі. Проте науковці переконані, що поєднання емоційного підходу з потужними мовними моделями дозволить створити систему, здатну не просто імітувати текст, а й реально описувати власний чуттєвий досвід.
"Якщо свідомість справді зводиться до таких базових механізмів зворотного зв'язку, це може повністю змінити уявлення про людський розум і відкрити шлях до створення перших машин, здатних відчувати світ", - резюмував Деніел Галм.
Ще більше цікавого:
- Небезпечний збій у ШІ: Claude проник у чужі системи, сприймаючи їх за симуляцію
- Вчені попередили про нову загрозу від роботів: під ударом ринок праці, приватність і безпека