ИИ-утопия или антиутопия? Понимание рекурсивной гиперболики перед тем, как открыть ящик Пандоры.

Свобода Притам

Следовать

Симулякр

--

Слушать

Делиться

Марк Андриссен недавно написал интригующую публикацию о том, как ИИ спасет мир. Хотя я обнаружил, что согласен с некоторыми из его пунктов, и я приветствую его за то, что он обвинил экстремистов, которые призывают к сценарию конца света. Мне нравятся аналогии и ссылки на конкретные статьи, о которых он говорит. Мне даже нравятся его окончательные предложения. Браво!

Но он потерял меня, когда начал превращать мыслительный процесс в форму пропаганды, используя такие термины, как «моральная паника», «культ безопасности ИИ» и те, кто пытается «подавить ИИ», чтобы почти охватить всех тех, кто боремся за безопасность ИИ! Не все понимают риторику, приятель. Вы могли бы посвятить параграф или раздел людям, которые на самом деле находятся на «вашей стороне» и сосредоточены на безопасности ИИ, поскольку это реальная и непосредственная опасность. Не круто!

Вместо того, чтобы сосредоточиться на краткосрочных выгодах, он начал разглагольствовать о том, что «другая сторона» просто этого не понимает, а также занял позицию утопии, что также является крайностью. Я имею в виду, с какой другой стороны? Какой «культ»?

Этот взгляд на утопию Марка и всех остальных, на которые он справедливо указывает, рисуя антиутопию, надуман и далек от истины. Позвольте мне внести ясность: я уважаю Марка как венчурного капиталиста, но считаю, что он не в курсе этой темы. Без обид, но я сомневаюсь, что мы сможем участвовать в углубленных технических дебатах, особенно учитывая математические сложности, скрывающиеся в черном ящике ИИ.

Марк представляет в основном свое моральное мировоззрение, которое, по иронии судьбы, он рисует той же широкой кистью, в использовании которой он обвиняет лагеря, культы, баптистов или бутлегеров. У кого-то может возникнуть соблазн назвать большинство таких людей «художниками-бульдшидо», стремящимися разжечь сенсации о моральном добре/плохе и добродетелях/пороках, чтобы извлечь выгоду из своих инвестиций в ИИ. Вы видите, как использование слов вызывает эмоции и может быть неосторожным, если честно? Но если бы мы это сделали, мы были бы не лучше их. Такой подход к утопии или антиутопии является редукционистским, отвлекает от реальной проблемы и, откровенно говоря, несколько ребяческим.

Когда дело доходит до технологий, ИИ стоит в отдельной лиге. Это ошибка эпических масштабов — проводить параллели между искусственным интеллектом и любыми другими технологическими инновациями прошлого. Историческое сопротивление технологиям, аргументы ушедших луддитов, не могут охватить тот монументальный вызов, который представляет нам ИИ. ИИ — это не просто экспоненциальный прогресс, он скорее демонстрирует рекурсивно-гиперболические характеристики — явление, не похожее ни на что, что мы видели в истории. Революция искусственного интеллекта параллельна кембрийскому взрыву — событию, которое дарвиновские принципы пытаются полностью осмыслить даже сегодня.

По моему мнению, все нынешние экономические модели, прогнозирующие влияние ИИ, вполне дарвинистские. Честно говоря, никто из нас не знает, как с уверенностью предсказывать будущее, что делает нас несколько невежественными, когда дело доходит до рисования картины того, что должно произойти. Мы не знаем, будет ли это антиутопия, утопия или что-то среднее. Все, что мы можем сделать, это сосредоточиться на понимании природы этого зверя как можно более полно и быстро.

Например, природа гиперболического роста обычно отражается дифференциальными уравнениями Риккати. Однако неизведанная область рекурсивной гиперболики, характерная для J-кривых, которые самоувековечивают интеллект с астрономической скоростью, не имеет определенной модели. Пока мы балансируем на грани этого беспрецедентного технологического скачка, полагаться на прошлые экономические прогнозы как на руководство на будущее только сбивает нас с пути.

Даже если есть экстремисты, ориентированные на сценарии конца света, зачем на них фокусироваться? Они не имеют значения. Если речь идет о разработке политики и регулировании, я поддерживаю Марка. Давайте бороться за то, чтобы ни одна из крайностей не вступала в регулятивные захваты. Если бы не это, то почему вы должны просто бросать каждого человека, который усердно работает над созданием мер безопасности, под автобус «многие из моих читателей будут готовы утверждать, что необходимы резкие ограничения на выпуск продукции ИИ, чтобы избежать разрушения общества»? Неосторожно, если честно.