Штучний інтелект віддає перевагу собі подібним, а не людям

Нове дослідження виявило, що штучний інтелект може бути упередженим до людей та віддає перевагу собі подібним, а не нам.

• Алгоритми не винні у нашій ненависті в Мережі — дослідження розкрило гірку правду

Деталі

Вчені припускають, що такі великі мовні моделі, як GPT-4, GPT-3.5 та Llama 3.1, мають серйозні та тривожні антигуманні упередження. Коли моделей просять оцінити будь-який контент, вони переважно обирають той, що створений іншим штучним інтелектом, а не той, що створений людиною.

Коли моделям штучного інтелекту показують написаний людиною короткий виклад та згенерований штучним інтелектом, вони схильні надавати перевагу собі подібним. У тестах GPT-4 був найбільш помітним порушником, постійно надаючи перевагу результатам, згенерованим штучним інтелектом, над роботами, написаними людьми.

І хоча люди в дослідженні також демонстрували невелику схильність до контенту, створеного штучним інтелектом, самі штучні інтелекти продемонстрували набагато сильнішу, безпомилкову прихильність до себе.

Реальні наслідки викликають занепокоєння. Дослідники зазначають, що компанії вже використовують штучний інтелект для перевірки резюме, і їхні висновки свідчать про те, що кандидати-люди можуть незабаром опинитися у невигідному становищі, особливо якщо вони не використовують штучний інтелект для покращення своїх резюме.

Це абсолютно новий вид системної дискримінації, яка ґрунтується не на расі, статі чи релігії, а на тому, чи ви людина, чи алгоритм.

Дослідники попереджають, що цей фаворитизм, зосереджений на штучному інтелекті, може поширити розрив між заможними та незаможними, надаючи перевагу людям з фінансовими засобами та досвідом для доступу до передових програм ШІ, по суті створюючи класову систему, де люди, які не використовують штучний інтелект, позбавлені можливостей.

Співавтор дослідження Ян Кульвейт пропонує рішення: якщо ви підозрюєте, що штучний інтелект оцінює вашу роботу, спочатку пропустіть її через штучний інтелект. Зробіть так, щоб вона сподобалася штучному інтелекту. Тільки не втрачайте свою людяність у цьому процесі.

Раніше вчені виявили, що старіння може бути заразним.