RU UA
1

Проєкт Трампа з розвитку ШІ вартістю $500 мільярдів має значні ризики

Технології 17:46 - 23 січня 2025

Викладач комп'ютерних наук пояснив, чому ривок Трампа у сфері ШІ це не лише про "майбутнє технологій"

Проєкт Трампа з розвитку ШІ вартістю $500 мільярдів має значні ризики

Указ Трампа про розвиток ШІ несе значні ризики/Фото: Andrew Harnik/Getty Images

Одним зі своїх перших кроків на посаді 47-го президента Сполучених Штатів Дональд Трамп оголосив про новий проєкт на 500 мільярдів доларів під назвою "Зоряна брама" (Stargate), спрямований на прискорення розвитку штучного інтелекту (ШІ) у США. Викладач Школи комп’ютерних наук Сіднейського університету Армін Читізаде розповів про значні ризики, які несе цей проєкт.

Деталі

Проєкт Трампа є партнерством трьох великих технологічних компаній – OpenAI, SoftBank і Oracle. Трамп назвав це "найбільшим проєктом інфраструктури штучного інтелекту в історії" і сказав, що він допоможе зберегти майбутнє технологій у США.

Однак технічний мільярдер Ілон Маск мав іншу думку, бездоказово стверджуючи на своїй платформі X, що спонсори проєкту "насправді не мають грошей". X, яка не входить до Stargate, також працює над розробкою штучного інтелекту, а Маск є суперником генерального директора OpenAI Сема Альтмана.

Разом з оголошенням про Stargate Трамп також скасував указ, підписаний його попередником Джо Байденом, який був спрямований на обмеження та контроль ризиків ШІ.

Читізаде зазначає, що ці два кроки втілюють менталітет, поширений у розвитку технологій, який найкраще можна підсумувати фразою: "рухайся швидко і ламай речі".

США вже є світовим лідером у розробці ШІ. Stargate значно збільшить це перевагу над іншими націями. За словами Читізаде, у США буде побудована мережа центрів обробки даних. У цих центрах будуть розміщені величезні комп’ютерні сервери, необхідні для роботи програм ШІ, таких як ChatGPT. Ці сервери працюватимуть у режимі 24/7 і вимагатимуть значної кількості електроенергії та води для роботи.

Згідно із заявою OpenAI, в американському штаті Техас вже ведеться будівництво нових центрів обробки даних в рамках Stargate.

Збільшення інвестицій Трампа в розробку штучного інтелекту надихає. Це може допомогти розширити численні потенційні переваги ШІ. Наприклад, ШІ може покращити прогноз онкологічних пацієнтів шляхом швидкого аналізу медичних даних і виявлення ранніх ознак захворювання.

Але одночасне скасування Трампом указу Байдена про безпечну розробку та використання ШІ викликає глибоке занепокоєння. Це може означати, що будь-які потенційні переваги Stargate можуть бути не такими яскравими на тлі її потенціалу посилити наявну шкоду технологій ШІ.

Фото: rawpixel.com

Так, у розпорядженні Байдена бракувало важливих технічних деталей. Але це був багатообіцяючий початок розробки безпечніших і відповідальніших систем ШІ. Одна з основних проблем, яку указ Байдена мав вирішити — технологічні компанії збирали особисті дані для навчання ШІ без попереднього отримання згоди.

Системи ШІ збирають дані з усього Інтернету. Навіть якщо дані є у вільному доступі в Інтернеті для використання людьми, це не означає, що системи ШІ повинні використовувати їх для навчання. Крім того, якщо фотографію чи текст введено в модель ШІ, їх неможливо видалити. Були численні випадки, коли художники подавали в суд на генератори зображень за несанкціоноване використання їхніх робіт.

Ще однією проблемою, яку розпорядження Байдена мало вирішити, був ризик заподіяння шкоди, особливо людям з меншин. Більшість інструментів ШІ спрямовані на підвищення точності для більшості. Без належного дизайну вони можуть приймати надзвичайно небезпечні рішення для небагатьох.

Наприклад, у 2015 році алгоритм розпізнавання зображень, розроблений Google, автоматично позначав фотографії чорношкірих як "горили". Пізніше ця проблема була виявлена ​​в системах штучного інтелекту інших компаній, таких як Yahoo та Apple, і залишається невирішеною через десятиліття, оскільки ці системи часто надто складні навіть для їхніх творців.

Ця складність робить критично важливим правильно проєктувати системи ШІ з самого початку. Проблеми можуть бути глибоко вкорінені в самій системі штучного інтелекту, погіршуватися з часом, і їх стає майже неможливо виправити.

Оскільки інструменти штучного інтелекту дедалі частіше приймають важливі рішення, наприклад перевірку резюме, меншини зазнають ще більшого удару. Наприклад, програмне забезпечення для розпізнавання облич на основі штучного інтелекту частіше неправильно ідентифікує чорношкірих та інших не білих людей, що призводить до помилкових арештів і ув’язнення.

Проєкт Stargate у перші дні його другого терміну Трампа показує, що його головна мета у технології ШІ – швидкість і потужність. Читізаде підкреслює: 

Якщо порівняти систему штучного інтелекту з автомобілем, це схоже на розробку найшвидшого автомобіля, ігноруючи ключові функції безпеки, такі як ремені безпеки або подушки безпеки, щоб зберегти його легшим і, отже, швидшим. Як для автомобілів, так і для ШІ цей підхід може означати передачу дуже небезпечних машин у руки мільярдів людей у ​​всьому світі.

Раніше ми повідомляли, що Дональд Трамп підписав указ про вихід США з Всесвітньої організації охорони здоров'я.

Джерело: The Conversation

Не пропустіть цікавинки!

Підписуйтесь на наші канали та читайте новини у зручному форматі!

ГОЛОВНЕ ЗА СЬОГОДНІ
Більше новин