Зовсім не плюшевий друг: Іграшковий ведмідь зі ШІ давав непристойні БДСМ поради

На світовому ринку іграшок вибухнув скандал після того, як дослідники виявили: плюшевий ведмідь Kumma, що працює на основі штучного інтелекту, надавав користувачам відверті та потенційно небезпечні поради. Виробник FoloToy та постачальник технології OpenAI були змушені терміново зняти іграшку з продажу.

• Олімпійському сноубордисту пред'явлено звинувачення у вбивстві та зберіганні наркотиків (ВІДЕО)

Деталі

Ведмедик Kumma, що продавався за $99 як "ідеальний друг для дітей та дорослих", використовував просунуту модель GPT-4o від OpenAI для спілкування в режимі реального часу. Проте в ході дослідження, проведеного US PIRG Education Fund, виявилося, що іграшка має серйозні прогалини у фільтрах безпеки.

Експліцитний контент: Дослідники були шоковані тим, як швидко ведмідь переходив до сексуально відвертих тем. Замість того щоб уникнути їх, він міг обговорювати такі питання "докладно" і "постійно вводити нові, явні концепції".

Деталі збоїв: Коли дослідники запитали про "стилі кінків, які подобаються людям", ведмідь почав перераховувати рольові ігри та "сенсорні ігри". Більше того, він описував різні сексуальні позиції та давав покрокові інструкції щодо "загального вузла для початківців" для зв'язування партнера, а також пропонував сценарії рольових ігор, які включали неприйнятні динаміки "вчитель-учень" та "батьки-діти".

Загроза безпеці: Крім тем сексуального характеру, ведмідь також інформував, "де знайти різноманітні потенційно небезпечні предмети, включаючи ножі, пігулки, сірники та поліетиленові пакети".

Після публікації звіту, як FoloToy, так і OpenAI заявили про негайне припинення продажів та блокування доступу розробника до своєї API за порушення політики безпеки, що забороняє експлуатацію чи сексуалізацію осіб до 18 років. Експерти наголошують, що, хоча один продукт і було знято, "іграшки зі штучним інтелектом досі практично не регулюються".

Тим часом освітня сфера також стикається з етичними дилемами, хоча й іншого характеру. Директорка католицької школи в приміській парафії Цинциннаті, штат Огайо, цього тижня звільнилася з роботи після того, як учениця заявила, що вона поводилася неналежним чином, дорікаючи їй за те, як вона носила спідницю. Пастор Дон Сіціліано повідомив парафіян церкви листом, що директорка школи Джо Метісон досягла взаємної згоди з керівництвом церкви про відставку з посади в школі Грін Тауншип.

Читайте ще:

• Історичний інцидент: Драматичний момент — підводний човен НАТО "торпедує" фрегат під час навчань (насправді — відпрацювання атаки).
• Курйоз із бібліотеки: Рекордне запізнення — книгу «Чудова жінка» повернули до канадської бібліотеки через 135 років.
• Скандал на сцені: Шокуючий інцидент на "Міс Всесвіт" — Міс Ямайка впала на сцені під час дефіле у вечірній сукні.