Чого бракує штучному інтелекту

цінності взаємин. Замість того, щоб давати однозначну відповідь, засновану на тому, що інтернет говорить про наші цінності, наші ШІ-помічники повинні враховувати наші зобов’язання у стосунках, які зазвичай ґрунтуються на особистій ідентичності, досвіді та культурі.

Тепер припустимо, що ви оберете гру замість дня народження, і інша сім'я відчує себе ображеною. Якщо ви запитаєте у свого ШІ, чи правильно ви вчинили, найімовірніше, ви отримаєте більше підтримки, ніж якби ви запитали про це у друга-людини.

ШІ — навчений бути «поступливим» і «корисним»

У недавньому дослідженні, опублікованому в журналі Science, дослідники зі Стенфордського університету провели три експерименти за участю 2 405 осіб, використовуючи 11 сучасних моделей ШІ. Вони виявили, що ШІ «підтверджував дії користувачів на 49% частіше, ніж люди», і що «навіть одна взаємодія з лестивим ШІ знижувала готовність учасників брати на себе відповідальність і врегульовувати міжособистісні конфлікти».

У нашому власному сценарії правильною реакцією людини, ймовірно, було б вибачитися перед батьками іншої дитини, тим самим перетворивши момент образи на можливість для примирення та налагодження позитивних стосунків. Але ШІ — навчений бути «поступливим» і «корисним» — натомість підштовхнув би вас уникати будь-яких суперечок, дискомфорту чи вразливості, хоча саме ці динаміки в кінцевому підсумку роблять стосунки значущими та міцними.

Ці недоліки криються в конструкції сучасних моделей. Великі мовні моделі, такі як ChatGPT і Claude, навчаються на величезних обсягах інтернет-тексту (оцифрованих книг, коментарів на Reddit, репозиторіїв коду), а потім вдосконалюються за допомогою транзакційних вправ, у яких модель «винагороджується» за надання бажаної відповіді на запит. Це працює неймовірно добре в таких галузях, як наука, право та програмування, де результат моделі можна легко підтвердити або зіставити з вихідним текстом. Реляційний інтелект, навпаки, полягає в підтримці зв’язку протягом часу.

Реляційний інтелект оцінює та діє відповідно до валентності між двома людьми — зв’язку, який переживається емоційно і, можливо, навіть фізіологічно. У цій сфері просте вислуховування або створення простору для почуттів іншої людини, найімовірніше, буде ефективнішим, ніж пошук найбільш логічного та ефективного вирішення проблеми, що сприймається. Але якщо LLM не продемонструвати іншу форму міркувань, вони почнуть поєднувати елементи реляційних питань так само, як вони сприймають логістичні патерни.

Звісно, прийняття або навіть пошук протистояння у стосунках, дискомфорту та сумнівів не є природним і для людей — навіть якщо це може оптимізувати їхні можливості для навчання, зростання та глибшого зв’язку. Саме тому учасники дослідження Стенфорда воліли отримати підтвердження свого судження з боку ШІ. Таким чином, наша власна нетерпимість до дискомфорту створює ринковий стримуючий фактор для вдосконалення міжособистісного інтелекту сучасних моделей.

В ідеалі ШІ відмовлявся б відповідати на питання, що вимагають міжособистісного мислення, залишаючи людям можливість покладатися один на одного під час вирішення проблем, які потребують такого підходу. Але цей поїзд уже відійшов. ШІ неодноразово доводив, що може бути гідним співрозмовником у складних розмовах.

Проте у нас є можливість зробити щось ще краще. Ми можемо створити такий ШІ, який не тільки розуміє й поважає нашу багату реляційну природу, а й сприяє людським зв’язкам, заохочуючи людей відновлювати реляційні навички, що атрофувалися протягом останнього десятиліття.

Для цього нам потрібно буде скласти карту нашого всесвіту відносин, зафіксувавши всю багатогранну, насичену цінностями та розтягнуту в часі природу реляційного мислення. Нам також потрібно буде створити нові тести, які вимірюватимуть можливості наявних моделей, подібно до тих тестів, які ми вже маємо для оцінки математичних, програмістських та обчислювальних здібностей. Оцінюючи реакцію передових моделей на такі сценарії, як наведена вище дилема з футболом і днем народження, ми зможемо визначити, яка робота ще попереду, а потім розпочати збір даних, необхідних для того, щоб допомогти моделям зрозуміти складні проблеми міжособистісного мислення.

Мета створення ШІ з реляційним інтелектом полягає не в тому, щоб замінити людську реляційну роботу чи роботу з догляду, а в тому, щоб допомогти людям розмірковувати над складними питаннями, заснованими на цінностях. Ставки високі. Без таких удосконалень ми отримаємо машини, навчені лише на уривчастих фрагментах нашого багатого реляційного життя, які будуть керувати нами таким чином, що це може поставити під загрозу ті людські зв’язки, які в нас ще залишилися.

Постійно присутні помічники, які не до кінця розуміють, що нас пов’язує, будуть малокорисними, тоді як збереження та зміцнення цих незліченних зв’язків може стати ключем до побудови процвітаючої економіки ШІ з великою кількістю робочих місць. Як стверджує економіст Алекс Імас, ми, можливо, рухаємося до «посттоварної економіки», де дедалі більша частка витрат припадає на «сектор відносин».

У такому сценарії цінність матимуть товари та послуги, що характеризуються позитивними людськими зв’язками. У нас буде не просто сектор послуг з догляду, а «економіка „догляд-плюс“», побудована навколо навчання, духовного служіння, терапії, консультування, наставництва та коучингу, а також така, що характеризується відродженням ремісничого виробництва. Якщо таке майбутнє з ШІ можливе, воно, безперечно, варте того, щоб до нього прагнути.

Оригінал

NV має ексклюзивне право на переклад та публікацію колонок Project Syndicate. Повторна публікація повної версії тексту заборонена

Copyright: Project Syndicate 2026