Вчора з’явилася стаття у The New Yorker, яку я не можу перестати думати. В основному, дослідники там взяли інтерв’ю у понад 100 осіб, залучених до OpenAI, і отримали доступ до внутрішніх документів, які ніколи раніше не публікувалися. Що з цього вийшло? Значно складніша історія, ніж той драматичний сюжет 2023 року.

Все почалося з документа на 70 сторінок, який Ілля Сутскевер, головний науковець OpenAI, зібрав у 2023 році. Він об’єднав повідомлення з Slack, комунікації з HR, протоколи внутрішніх нарад... все для відповіді на питання: чи можна довіряти Саму Альтману, людині, яка, можливо, контролює найнебезпечнішу технологію в історії? Його висновок на першій сторінці? «Сам демонструє послідовний шаблон поведінки, що включає брехню.»

Що мене особливо зацікавило, — це дуже конкретний приклад. У грудні 2022 року, під час ради директорів, Альтман запевнив, що кілька функцій GPT-4 вже пройшли перевірку безпеки. Коли попросили показати документи, з’ясувалося, що дві з найбільш суперечливих функцій ніколи не проходили через безпекову панель. Просто так.

Але це ще не все. Даріо Амодей, який згодом заснував Anthropic, залишив понад 200 сторінок особистих нотаток, перебуваючи в OpenAI. Він зафіксував, як компанія поступово відступала під тиском комерційних інтересів. Одна з речей, яка його особливо турбувала: коли Microsoft інвестувала у 2019 році, була умова, що якщо інший конкурент знайде більш безпечний шлях до AGI, OpenAI має припинити змагання і допомагати. Але Microsoft отримала право вето щодо цього. В основному, та гарантія безпеки стала порожнім папером.

Є один деталь, що трохи лякає. У середині 2023 року Альтман оголосив публічно, що OpenAI виділить 20% своєї обчислювальної потужності для «команди суперзгортання» — потенціал понад 1 мільярд доларів. Але чотири працівники, які там працювали, кажуть, що фактично виділено було лише 1–2%, і ще з застарілим обладнанням. Після цього команда була розпущена. Коли журналісти запитали про інтерв’ю з відповідальними за дослідження з безпеки існування, прес-служба OpenAI відповіла: «Це не є реальною річчю, яка існує.»

Останнє: Сара Фріар, фінансовий директор OpenAI, мала серйозні розбіжності з Альтманом щодо IPO. Вона вважає, що компанія ще не готова, враховуючи фінансовий ризик від обіцянки Альтмана витратити 600 мільярдів на обчислювальні ресурси. Але тут дивна частина — вона більше не звітує безпосередньо перед Альтманом. Тепер вона звітує Фіджі Сімо, яка взяла лікарняний минулого тижня. Компанія, що готується до IPO, — генеральний директор і фіндиректор у фундаментальній розбіжності, фіндиректор не підзвітний генеральному, а керівник фінансової служби у відпустці. Навіть менеджери Microsoft більше не витримують, кажучи, що Альтман «спотворює факти, порушує обіцянки».

Один колишній член ради описав Альтмана досить цікаво: у нього дуже сильне бажання подобатися у кожній особистій зустрічі, але водночас він демонструє майже соціопатичну байдужість до наслідків обману інших. Це рідкісне поєднання — і ідеальне для продавця.

Ось у чому проблема: якби Альтман був генеральним директором будь-якої звичайної технічної компанії, це був би лише хороший корпоративний слух. Але OpenAI розробляє технології, які можуть перебудувати світову економіку, використовуватися для створення біохімічної зброї або запуску кібератак. Колишній головний науковець і колишній керівник безпеки вважають його ненадійним. Партнери порівнюють його з SBF. І все ж він прагне провести цю компанію через IPO з оцінкою понад 850 мільярдів.

Гері Маркус, професор штучного інтелекту у Нью-Йорку, поставив дуже пряме питання після прочитання всього: чи справді ви відчуваєте себе в безпеці, дозволяючи Альтману самостійно вирішувати, чи слід випустити модель, яка може змінити долю людства?

Відповідь OpenAI була в основному питанням до мотивів джерел, без конкретного заперечення. Альтман не відповів на прямі звинувачення.

Це історія про те, як група ідеалістів, стурбованих ризиками ШІ, створила неприбуткову організацію із чіткою місією. Потім технології просунулися, з’явилися великі капітали, капітал вимагав повернення, і місія почала поступово здаватися. Команда безпеки була розпущена, люди, які ставили під сумнів, — вигнані, структура без прибутку перетворилася на прибуткову компанію, а рада директорів, що міг би закрити компанію, тепер наповнений союзниками генерального директора. Більше сотні свідків використовували однаковий опис: «не обмежено правдою.»