🤖 Суперинтеллект будет заниматься... скучной работой?

Человечество разглядело Вселенную почти до её начала, но дальше Луны так никто и не улетел. С этого контраста начинается эссе двух авторов из OpenAI о том, на что на самом деле уйдёт сверхинтеллект.

Главная мысль: гениальная идея ничего не стоит без тех, кто её воплотит.

⏺️Галилею для телескопа хватило двух линз, трубки и пары десятков помощников. Телескоп «Джеймс Уэбб» стоил 10 млрд долларов, его строили 300 организаций из 14 стран

⏺️Чтобы закон Мура продолжал работать, сегодня нужно в 18 раз больше исследователей, чем в начале 70-х. Отдача от каждого исследователя в экономике упала в 41 раз

⏺️Авторы вводят понятие «институциональный интеллект»: незаметная работа исполнения. Законы, финансирование, цепочки поставок, бухгалтерия. Гений проектирует памятник, институты кладут камни
Дальше два этапа, и вот здесь интересно.

Сейчас ИИ делает исполнение дешёвым. Пишет код, разбирается в незнакомой теме, превращает набросок в прототип. Идея, под которую раньше нужна была компания, теперь по силам одному человеку. Дефицитом становится вкус: умение решить, что вообще стоит делать.
Потом ИИ начнёт сам генерировать идеи, тысячами. И исполнения снова станет не хватать, причём сильнее, чем когда-либо.

Отсюда два сценария будущего:

1️⃣Цивилизация глубины. Сверхинтеллект настолько хорошо понимает мир, что угадывает, какие пару экспериментов нужно поставить, а остальное просчитывает в симуляции. Прогресс ускоряется

2️⃣Цивилизация ширины. Природа сложнее любого разума. Лекарства всё равно надо проверять на тысячах людей, химия всё равно реагирует со своей скоростью. Тогда сверхинтеллект придумает эксперименты на сто лет вперёд за один день и будет сто лет ждать результатов.

Во втором сценарии суперсила ИИ не в гениальности, а в готовности быть бюрократией: координировать стройки, логистику, производство. Почти весь машинный интеллект уйдёт не на блестящее, а на скучное.

Для нас с вами практичен первый этап, и он уже идёт. Я вижу это по вайбкодингу: создать продукт перестало быть проблемой, проблемой стало понять, какой продукт стоит делать.

🤖 В эпоху AI