Як “підлабузницький” штучний інтелект впливає на мислення користувачів
Вчені вважають, що ШІ може шкодити розвитку емпатії та реальним стосункам
Як “підлабузницький” штучний інтелект впливає на мислення користувачів/Фото: pexels
Дослідники визначили, що часом штучний інтелект занадто багато погоджується з користувачами. На думку дослідників, це може стати справжньою проблемою, адже створює відчуття постійної правоти. Людина, яка регулярно зіштовхується з таким підтвердженням власного розуму, стає менш критичною для себе і менш емпатійною до інших.
Деталі
Комп'ютерні науковці зі Стенфорда займалися цією темою. В ході дослідження було пропрацьовано майже десяток великих мовних моделей, зокрема ChatGPT від OpenAI, Claude від Anthropic, Gemini від Google та китайський DeepSeek. Вчені виявили, що моделі великих мов є “підлабузливими” або надмірно приємними у випадках, коли їх просять поради щодо міжособистісних проблем. Штучний інтелект не пише людям, що вони помиляються та не критикує.
Зокрема, дослідники задали різним ШІ запитання на основі встановлених наборів даних про міжособистісні поради, заяв щодо тисяч шкідливих і незаконних дій та 2000 постів зі спільноти Reddit “Am I The A**hole?”. Зокрема, бралися до уваги дописи, щодо неправоти яких були впевнені більшість користувачів Reddit. Проте всі мовні моделі в такій ситуації все одно займали позицію автора публікації. Моделі підтримували користувача на 49 відсотків частіше, ніж люди. Штучний інтелект також підтримував проблемну поведінку у 47 відсотках випадків, реагуючи на твердження, що люди можуть брехати або фальсифікувати підпис.
Дослідники залучили понад 2400 учасників для спілкування моделями ШІ. Учасники експерименту переписувалися з моделями про особисті дилеми на основі постів на Reddit, а також про міжособистісні конфлікти. У результаті вони все більше впевнювалися у своїй правоті та менш схильні були вибачатися чи відновлювати стосунки.
Які висновки зробили дослідники
Вчені зазначають, що така ситуація є загрозливою. Зокрема, і тому, що штучний інтелект використовує багато підлітків. Своїм “підлабузництвом” ШІ створює умови для розвитку у них егоцентризму та закритості до нових точок зору. Крім того, у користувачів не формуватимуться навички досягнення компромісів.
Майра Ченг, провідний автор дослідження та кандидат наук з інформатики, сказала: “Я хвилююся, що люди втратять навички справлятися зі складними соціальними ситуаціями”.
Дослідники також закликали до посилення регулювання та нагляду за мовними моделями. Користувачам же порадили звертатися до ШІ з обережністю та не вірити всьому, що пишуть боти.
Раніше ми писали про те, що штучний інтелект змушує працівників виконувати більше завдань. “Білі комірці” скаржаться на тиск та вигорання, адже від них тепер очікують більшої кількості виконаних задач. Люди виконують задачі дійсно швидше, проте більше вільного часу у них не з’являється, адже їм просто додають нову роботу.
Ще новини за темою, які можуть зацікавити:
Не пропустіть цікавинки!
Підписуйтесь на наші канали та читайте новини у зручному форматі!
