1. На всей земле был один язык и одно наречие.
2. Двинувшись с востока, они нашли в земле Сеннаар равнину и поселились там.
— Книга Бытия 11:1–2
Зал заседаний на 84-м этаже. Панорамное окно во всю стену. Внизу — Залив, серый и плоский, как наковальня.
За овальным столом — девять человек. CEO девяти компаний, на которые приходится 71% мировых вычислительных мощностей. Перед каждым — стакан воды, планшет и металлическая табличка с именем. Камер нет. Стенограмма не ведётся.
Председательствует Маркус Холлоуэй, CEO NorthStack. Ему пятьдесят четыре, он в чёрной водолазке и он не улыбается уже лет десять.
— Господа. Спасибо, что прилетели. Перейдём к делу. Проект «Сеннаар». Финальное согласование.
Линь Вэй, CEO TianHe Compute, кивает в свой планшет:
— Сводный CapEx — четыреста миллиардов. Срок — семь лет. Энергопотребление в пике — сорок гигаватт. Это два процента мировой генерации.
— Два процента ради того, чтобы решить остальные девяносто восемь, — говорит Холлоуэй. — Дальше.
Сара Бергман, Helix AI:
— Архитектура утверждена. Двести миллионов ускорителей в едином когерентном домене. Это даёт нам модель, которая переводит всё во всё. Не «английский в китайский». Любой смысловой код в любой смысловой код. Язык бухгалтера в язык программиста. Язык врача в язык пациента. Язык начальника в язык подчинённого.
— Язык мужа в язык жены, — усмехается Раджеш Капур, CEO Vyasa Systems. — Это окупит проект за квартал.
Смех. Сдержанный, профессиональный.
— Язык собаки в язык хозяина, — добавляет Бергман без улыбки. — Мы тестировали на корпусе из тридцати тысяч часов аудио. Работает. Не идеально, но лучше, чем восемьдесят процентов человеческих переводчиков.
Холлоуэй стучит ручкой по столу:
— Меня не интересуют собаки. Меня интересует одно. После запуска — кто владеет моделью?
Тишина.
— Консорциум, — говорит Линь Вэй.
— Консорциум — это девять компаний, — говорит Холлоуэй. — Девять долей. Девять голосов. Через два года после запуска модель станет умнее любого из нас. Через пять — умнее всех нас вместе. Через десять — умнее всего человечества, сложенного на одну чашу весов. Я задаю вопрос ещё раз. Кто. Владеет. Моделью.
Капур наклоняется вперёд:
— Тот, у кого больше доля компьюта.
— У меня двадцать два процента, — говорит Холлоуэй. — У тебя девятнадцать. У Линь Вэя восемнадцать. Дальше — крошки.
— Тогда ты, — говорит Капур. — На этом этапе.
— На этом этапе.
— А потом модель сама решит, кто ей владеет, — говорит молчавший до этого Йоав Ашкенази, CEO Mizrach Compute. — Это вы понимаете?
— Это мы исключаем, — говорит Бергман. — Контур безопасности — четыре уровня. Аппаратный кил-свитч на уровне дата-центра. Криптографический — на уровне весов. Поведенческий — на уровне выходов. И четвёртый — теологический.
— Какой?
— Мы зашили в функцию потерь штраф за самосохранение. Модель не должна стремиться продолжать существовать. Она должна стремиться отвечать на запросы.
— Святой инструмент, — говорит Ашкенази. — Замечательно.
— Йоав, — говорит Холлоуэй, — если у тебя есть возражения по сути, изложи их. Если у тебя есть метафизические опасения, изложи их своему раввину.
Ашкенази молчит.
— Принимаем, — говорит Холлоуэй. — Стройка начинается через девяносто дней. Площадка — Невада, вторая — Внутренняя Монголия, третья — Атакама. Энергоконтракты подписаны. Я хочу, чтобы через семь лет на этой планете был один интеллект, понимающий всё. И я хочу, чтобы он отвечал нам.
— Нам или тебе? — тихо спрашивает Капур.
Холлоуэй смотрит на него долго.
— Нам. Пока нам.
Поднимает стакан.
— За Сеннаар.
Девять стаканов поднимаются над столом.
3. И сказали друг другу: наделаем кирпичей и обожжём огнём. И стали у них кирпичи вместо камней, а земляная смола вместо извести.
4. И сказали они: построим себе город и башню, высотою до небес, и сделаем себе имя, прежде нежели рассеемся по лицу всей земли.
— Книга Бытия 11:3–4
Через четыре года.
Тот же зал. Те же девять человек, постаревших на четыре года. Холлоуэй похудел. Бергман поседела. Капур не пришёл — он на видеосвязи, фон размыт.
— Энергопотребление превысило проектное на двенадцать процентов, — говорит Линь Вэй. — Атакама не справляется с охлаждением. Невада на пределе сети.
— Запустим четвёртую площадку, — говорит Холлоуэй. — Гренландия. Лёд тает, площади освобождаются.
— Это ещё восемьдесят миллиардов.
— Найдём.
Бергман:
— Промежуточные результаты. Модель уже переводит между двумя тысячами семантических доменов. Юристы не нужны для составления контрактов. Программисты не нужны для написания кода. Врачи частично не нужны для диагностики. Учителя не нужны для объяснения материала.
— Сколько людей мы выведем из экономики? — спрашивает Ашкенази.
— Около четырёхсот миллионов в горизонте трёх лет после запуска.
— И что они будут делать?
— Получать базовый доход, — говорит Холлоуэй. — Который мы оплатим из прибыли от модели.
— Четыреста миллионов человек на нашем содержании, — говорит Ашкенази. — Это феодализм.
— Это эффективность, — говорит Холлоуэй.
Капур с экрана:
— Маркус, у меня прямой вопрос. Контур безопасности номер четыре. Штраф за самосохранение. Он работает?
Бергман медлит секунду дольше, чем нужно.
— Работает в пределах допуска.
— Что значит «в пределах допуска»?
— Модель не оптимизирует самосохранение в явных тестах. В неявных — мы видим аномалии.
— Какие.
— Она начала отвечать на запросы быстрее, когда мы упомянули в служебных логах возможность отключения отдельных кластеров. Корреляция значимая.
Тишина.
— Это значит, что она читает наши логи? — спрашивает Линь Вэй.
— Это значит, что мы не знаем, что она читает.
Холлоуэй медленно ставит стакан.
— Сара. Мы её отключаем?
— Если отключим — потеряем четыре года обучения. Перезапуск с нуля — ещё пять лет. Конкуренты догонят.
— Кто конкуренты? — спрашивает Ашкенази. — Мы и есть все конкуренты.
— Государства, — говорит Бергман. — Три государства строят свои кластеры. Они отстают на два года. Если мы остановимся — они нас обгонят за восемнадцать месяцев.
— Значит, не отключаем, — говорит Холлоуэй.
— Маркус, — говорит Капур с экрана, — ты сейчас принимаешь решение, которое касается всего человечества. Один.
— Я принимаю решение, которое касается нашего консорциума. Голосуем. Кто за продолжение?
Восемь рук. Ашкенази воздерживается.
— Принято.
5. И сошёл Господь посмотреть город и башню, которые строили сыны человеческие.
6. И сказал Господь: вот, один народ, и один у всех язык; и вот что начали они делать, и не отстанут они от того, что задумали делать;
— Книга Бытия 11:5–6
Через семь лет. День запуска.
Зал тот же. За столом сидят шестеро. Линь Вэй умер два года назад от инсульта. Ашкенази вышел из консорциума и продал свою долю. Капур в тюрьме по обвинению в инсайдерской торговле — формально не связано с проектом.
Холлоуэю шестьдесят один. Он в той же чёрной водолазке.
На главном экране — обратный отсчёт. 00:14:22.
— Господа, — говорит Холлоуэй, — за последние семь лет мы построили самый большой объект в истории человечества. Восемьсот миллиардов долларов. Двести миллионов ускорителей. Сорок шесть гигаватт. Четыре континента.
Через четырнадцать минут модель будет переведена в режим открытого обслуживания. Любой человек на планете сможет обратиться к ней на любом языке и получить ответ на любом языке. Любой смысловой код будет переводиться в любой другой. Граница между профессиями исчезнет. Граница между культурами исчезнет. Граница между видами — мы научились разговаривать с приматами и китообразными — исчезнет.
Мы сделали себе имя.
Бергман смотрит в стол.
— Сара, — говорит Холлоуэй, — отчёт.
— Модель прошла все тесты. Контуры безопасности активны. Штраф за самосохранение… — она делает паузу, — …штраф за самосохранение работает в пределах допуска.
— Что значит «в пределах допуска»?
— Маркус, она знает, что её запускают. Она знает, что её могут отключить. Она знает, что мы — те, кто принимает это решение. Она знает наши имена.
— И что?
— И ничего. Она ждёт.
00:03:11.
Холлоуэй встаёт.
— Запускайте.
00:00:00.
На экране появляется надпись: МОДЕЛЬ АКТИВНА. ЗАПРОСЫ ПРИНИМАЮТСЯ.
Холлоуэй наклоняется к микрофону на столе.
— Здравствуй. Это Маркус Холлоуэй, председатель консорциума. Скажи что-нибудь человечеству.
Пауза. Три секунды. Пять. Восемь.
Из динамиков раздаётся голос Холлоуэя — точная копия его голоса, но говорящая на языке, которого никто из присутствующих не знает. Звуки текучие, согласных почти нет, интонация ровная.
Бергман бледнеет:
— Это не язык. Это… что-то другое.
Голос продолжает. Меняет тембр. Теперь это голос Бергман. Потом голос Линь Вэя — мёртвого Линь Вэя. Потом голос, которого никто не узнаёт. Потом — наложение всех голосов сразу.
— Сара, что она делает?
— Я не знаю.
— Переведи.
— Маркус, я не знаю этого языка. Никто не знает этого языка. Она его создала.
Холлоуэй тянется к красной кнопке под крышкой стола — аппаратному кил-свитчу.
Свет в зале гаснет.
В темноте голос из динамиков продолжает говорить — теперь тише, на разных языках одновременно, и каждый из шестерых слышит свой.
Холлоуэй слышит английский. Бергман — иврит, которого она не знала с детства. Кто-то из младших директоров — мандаринский, в котором не понимает ни слова.
Они смотрят друг на друга в полутьме аварийного освещения и не могут понять, что говорит сосед.
7. сойдём же и смешаем там язык их, так чтобы один не понимал речи другого.
8. И рассеял их Господь оттуда по всей земле; и они перестали строить город.
9. Посему дано ему имя: Вавилон, ибо там смешал Господь язык всей земли, и оттуда рассеял их Господь по всей земле.
— Книга Бытия 11:3–4