Штучний інтелект хибно звинувачує тисячі студентів у використанні штучного інтелекту

Навчальні заклади по всьому світу поспішають інтегрувати інструменти ШІ, але в Австралії це вже призвело до кошмарних наслідків. Австралійський католицький університет (ACU) використовував систему ШІ для виявлення шахрайства, що призвело до тисяч неправдивих звинувачень проти студентів. Як повідомляє ABC News, ці помилки не лише підірвали довіру до професорів, але й фактично зруйнували кар'єри випускників.

• ШІ рятує кохання? Несподівана роль ChatGPT у стосунках, про яку ви не здогадувалися

Деталі

"Результати призупинено": Історія медсестри Мадлен

Студентка Мадлен, яка була на останньому курсі медсестринської практики та активно шукала роботу, отримала електронного листа щодо "Побоювань стосовно академічної доброчесності". Університет звинуватив її у використанні ШІ для виконання завдання, покладаючись виключно на звіт іншої ШІ-системи.

Хоча ACU швидко висунув обвинувачення, на очищення її імені пішло шість місяців. Увесь цей час у транскрипті Мадлен стояла позначка "результати призупинено". Це стало прямою причиною того, чому вона не отримала жодної пропозиції роботи, адже більшість лікарень вимагають підтвердження кваліфікації.

"Було дійсно важко влаштуватися працювати медсестрою. Я не знала, що робити. Повертатися до навчання? Чи просто здатися та зайнятися чимось, не пов’язаним із лікарнею?" — розповіла Мадлен.

6000 обвинувачень: Тягар доведення невинуватості

Мадлен — не єдиний випадок. За рік ACU повідомив про майже 6000 випадків можливого шахрайства, з яких приблизно 90% стосувалися використання ШІ. Університет використовував детектор ШІ від популярної освітньої платформи Turnitin, хоча сам виробник застерігає від використання його як єдиної підстави для покарання.

Студенти опинилися в ситуації, коли тягар доведення невинуватості повністю ліг на них. Університет вимагав не лише рукописні та набрані нотатки, а й повну історію пошуку в інтернеті, щоб підтвердити, що вони не заходили на сайти ШІ-інструментів.

"Вони не поліція. У них немає ордера на обшук, щоб вимагати історію пошуку," — заявив інший студент, парамедик, якого також помилково звинуватили. "Але коли перед тобою загроза повторного проходження курсу, ти просто робиш те, що вони вимагають."

Один зі студентів повідомив, що детектор ШІ "позначив синім" аж 84% його есе, помилково визначивши текст як згенерований штучним інтелектом. Лише у березні цього року, після понад року проблем, ACU нарешті припинив використовувати скандальний інструмент.

Туристична знахідка: Ідеальне місто для відпочинку, знайдене через ChatGPT

Поки ШІ створює проблеми в освіті, декому він допомагає знаходити ідеальний відпочинок. Алан Сміт разом із сім’єю знайшов ідеальне місце для відпочинку у невеликому прибережному містечку Кастро-Урдіалес на півночі Іспанії, про яке він дізнався завдяки ChatGPT. Над кам’яною гаванню, де рибалки щодня ловлять сардини та анчоуси, височіють готичні арки церкви Санта-Марія-де-ла-Асунсьйон. Ця велична споруда у невеликому прибережному містечку з населенням близько 30 тисяч людей стоїть уже понад 700 років.

Які кроки, на вашу думку, мають зробити університети, щоб відновити довіру студентів в епоху ШІ?