Meta готується застосовувати мітки, які дозволять розрізнити контент, створений ШІ

Працівник фінансового відділу однієї з багатонаціональних компаній виплатив шахраям 25 мільйонів доларів після того, як провів відеодзвінок із "заступником головного фінансового директора", створеним за допомогою технології дипфейк. Про нову історію з бізнесу та небезпеку фейків на основі ШІ розповів нардеп Ярослав Железняк.

• Майбутнє кінематографу та ШІ: нові технології у створенні відео вражають

Деталі

Працівника обдурили, заманивши на відеоконференцію з нібито іншими членами персоналу, які насправді були створені за допомогою дипфейк-технології, як повідомила поліція Гонконгу на брифінгу.

Спочатку працівник щось підозрював після отримання повідомлення від нібито головного фінансового директора з Великої Британії, яке здавалося фішинговим листом, де йшлося про необхідність проведення таємної операції. Однак після відеодзвінка, де інші учасники виглядали та звучали як його колеги, він відкинув свої підозри і погодився переказати загалом 200 млн гонконгських доларів (приблизно 25,6 млн доларів США).

Для розуміння, це був не запис, а діалог. Фейкові працівники відповідали навіть на його запитання. Цей випадок є одним з кількох нещодавніх інцидентів, де вважається, що шахраї використовували технологію дипфейк для модифікації публічно доступного відео та інших матеріалів з метою обману людей для викачування грошей, – пише нардеп

Поліція Гонконгу повідомила про затримання шести осіб у зв’язку з подібними аферами. Водночас Meta готується застосовувати мітки до будь-якого контенту, який публікується в її сервісах Facebook, Instagram і Threads, щоб дати зрозуміти користувачам, що зображення, які у багатьох випадках нагадують справжні фотографії, насправді не є такими. Про це заявив президент компанії з глобальних питань Нік Клегг.

Однак Железняк пише, що деякий ШІ-контент вже майже неможливо розрізнити навіть програмі. А на даному етапі багато false-positive результатів.

Після перших результатів Meta також зробить те саме для зображень, створених у сервісах OpenAI, Microsoft, Adobe, Midjourney, Shutterstock та Google.

Раніше ми писали, як розробники відеоігор використовують можливості ШІ.