Дослідження виявило здатність ШІ впливати на політичні погляди - ForkLog: криптовалюти, ШІ, сингулярність, майбутнє

# Дослідження виявило здатність ШІ впливати на політичні погляди

Широко використовувані системи ШІ можуть змінити переваги виборців у контрольованих умовах на 15%. Про це йдеться у дослідженні Корнельського університету та Британського інституту безпеки штучного інтелекту.

«Існує велика занепокоєність громадськості щодо потенційного застосування технології для політичного переконання та її можливого впливу на вибори та демократію. Ми повідомляємо про ці побоювання, використовуючи попередньо зареєстровані експерименти для оцінки здатності великих мовних моделей впливати на ставлення виборців», — зазначили експерти.

У дослідженні взяли участь майже 6000 осіб із США, Канади та Польщі. Вони оцінювали політичного кандидата, спілкувалися з чат-ботом, а потім знову давали оцінку.

У американській частині дослідження взяли участь 2300 осіб перед президентськими виборами 2024 року. Там ШІ посилював вплив, коли думки співбесідників збігалися.

Якщо чат-бот підтримував кандидата, якого учасник не підтримував, відбувалися «більш помітні зсуви» — люди сильніше змінювали ставлення до політичної фігури.

Подібні результати зафіксовані у Канаді та Польщі.

Дослідження показало, що повідомлення, орієнтовані на політику, мали більший ефект переконання, ніж ті, що базувалися на особистості.

Точність висловлювань залежала від розмови. Чат-боти, що підтримували кандидатів правого спрямування, робили більш неточні заяви у порівнянні з тими, хто виступав за лівих.

«Ці висновки містять незручне припущення: політичний вплив з боку ШІ може використовувати перекоси у тому, що моделі знають, для нерівномірного поширення неточностей навіть за прямими вказівками говорити правду», — зазначили вчені.

Предвзятість ШІ

У окремому дослідженні на Science експерти намагалися з’ясувати, чому взагалі виникає ефект переконання. У ньому протестували 19 мовних моделей на 76 977 дорослих у Великій Британії за більш ніж 700 політичних питань.

«Існує широко поширений страх, що розмовний штучний інтелект незабаром зможе чинити безпрецедентний вплив на людські переконання», — написали автори.

Вони з’ясували, що методи формування промптів впливають на здатність переконувати сильніше, ніж розмір моделі. Запити, що спонукають LLM вводити нову інформацію, підвищували переконливість, але знижували точність.

ШІ не нейтральний

Аналізаторські центри зауважили, що молоді консерватори більш охоче готові передати ШІ повноваження щодо прийняття важливих державних рішень у порівнянні з лібералами.

Директор Центру нових питань імені Гленна Хаскінса при інституті Харсленд Дональд Кендал зазначив, що виборці часто неправильно оцінюють нейтральність великих мовних моделей.

«Одна з речей, яку я намагаюся донести до людей, — це розвіяти ілюзію про те, що штучний інтелект є об’єктивним. Він явно упереджений, у деяких випадках пасивно», — додав він.

Експерт заявив, що великі корпорації Кремнієвої долини, які розробляють ШІ, «не соромляться впливати на те, який контент поширюється на їхніх платформах».

Нагадаємо, змодельоване із застосуванням агентів ШІ засідання ФРС показало, що політичний тиск розділив членів ради під час обговорення відсоткових ставок.