Искусственный интеллект ложно обвиняет тысячи студентов в использовании искусственного интеллекта

Учебные заведения по всему миру спешат интегрировать инструменты ИИ, но в Австралии это уже привело к кошмарным последствиям. Австралийский католический университет (ACU) использовал систему ИИ для выявления мошенничества, что привело к тысячам ложных обвинений против студентов. Как сообщает ABC News, эти ошибки не только подорвали доверие к профессорам, но и фактически разрушили карьеры выпускников.

• ИИ спасает любовь? Неожиданная роль ChatGPT в отношениях, о которой вы не догадывались

Детали

"Результаты приостановлены": История медсестры Мадлен

Студентка Мадлен, которая находилась на последнем курсе медсестринской практики и активно искала работу, получила электронное письмо об "Опасениях относительно академической добропорядочности". Университет обвинил ее в использовании ИИ для выполнения задания, полагаясь только на отчет другой ИИ-системы.

Хотя ACU быстро выдвинул обвинения, на очистку ее имени ушло шесть месяцев. Все это время в транскрипте Мадлен стояла пометка "результаты приостановлены". Это стало прямой причиной того, почему она не получила ни одного предложения о работе, поскольку большинство больниц требуют подтверждения квалификации.

"Было действительно трудно устроиться работать медсестрой. Я не знала, что делать. Возвращаться ли к учебе? Или просто сдаться и заняться чем-то, не связанным с больницей?" - рассказала Мадлен.

6000 обвинений: Бремя доказывания невиновности

Мадлен - не единственный случай. За год ACU сообщил о почти 6000 случаев возможного мошенничества, из которых около 90% касались использования ИИ. Университет использовал ИИ-детектор от популярной образовательной платформы Turnitin, несмотря на то, что сам производитель предостерегает от использования его как единственного основания для наказания.

Студенты оказались в ситуации, когда бремя доказывания невиновности полностью лежало на них. Университет требовал не только рукописные и набранные заметки, но и полную историю поиска в Интернете, чтобы подтвердить, что они не заходили на сайты ИИ-инструментов.

"Они не полиция. У них нет ордера на обыск, чтобы требовать историю поиска," - заявил другой студент, парамедик, которого также ложно обвинили. "Но когда перед тобой стоит угроза повторного прохождения курса, ты просто делаешь то, что они требуют."

Один из студентов сообщил, что ИИ-детектор "засветил синим" аж 84% его эссе, ошибочно определив текст как сгенерированный искусственным интеллектом. Только в марте этого года, после более чем года проблем, ACU наконец прекратил использовать скандальный инструмент.

Туристическая находка: Идеальный город для отдыха, найденный через ChatGPT

Пока ИИ создает проблемы в образовании, некоторым он помогает находить идеальный отдых. Алан Смит вместе с семьей нашел идеальное место для отдыха в небольшом прибрежном городке Кастро-Урдиалес на севере Испании, о котором он узнал благодаря ChatGPT. Над каменной гаванью, где рыбаки ежедневно ловят сардины и анчоусы, возвышаются готические арки церкви Санта-Мария-де-ла-Асунсьон. Это величественное сооружение в небольшом прибрежном городке с населением около 30 тысяч человек стоит уже более 700 лет.

Какие шаги, по вашему мнению, должны предпринять университеты, чтобы восстановить доверие студентов в эпоху ИИ?