Увольнение и восстановление в должности гендиректора OpenAI Альтмана: что насторожило исследователей

Многие уже читали или слышали об истории об увольнении и обновлении в должности генерального директора OpenAI, Сэма Альтмана. До сих пор неизвестно почему именно его уволили.

• В книге the Wave описано справедливое налогообложение в странах при ИИ: идеи, что с этим делать

Детали

Об этом пишет народный депутат Ярослав Железняк в Telegram.

Есть несколько расследований Ройтерс, где указывают, что перед увольнением исследователи компании написали письмо в совет директоров, предупреждая о мощном открытии в области искусственного интеллекта, которое, по их мнению, могло угрожать человечеству. Это письмо и алгоритм AI стали ключевыми моментами перед отстранением Альтмана, известного как поклонника генеративного AI.

Исследователи в письме подняли вопрос о способностях и потенциальной опасности AI, не уточняя конкретные проблемы безопасности. Они также указывали на работу команды "AI scientist", объединившей предыдущие команды "Code Gen" и "Math Gen" для оптимизации существующих AI моделей, чтобы улучшить их мышление и способность выполнять научную работу.

Там есть теория (еще раз пока доказательств нет), что причину увольнения связывают с открытием Q* и его желанием коммерциализировать открытие, в то время как совет директоров предпочел сначала выяснить возможные риски.

Есть видео по этой теме.

Q*, как считают в OpenAI, может быть прорывом в поиске искусственного общего интеллекта (AGI). Используя огромные вычислительные ресурсы, новая модель была способна решать определенные математические задачи, что может свидетельствовать о способности AI к более глубокому пониманию и логическим выводам, похожим на человеческие.

Способность AI понять математику и логику имеет значительный потенциал для научных исследований и развития. Однако это также вызывает опасения безопасности, поскольку такие возможности AI могут иметь непредвиденные последствия.

Amazon представил нового искусственного интеллектуального чат-бота… под названием Q.

Правда, это корпоративный инструмент. Целью чата является помощь сотрудникам с повседневными задачами, такими как обобщение стратегических документов, заполнение внутренних служебных билетов и ответы на вопросы о корпоративной политике.

...Название Q никак не связано с той конспирологией по увольнению головы OpenAI.

Люди будут работать три дня в неделю благодаря искусственному интеллекту, - Билл Гейтс.