Есть ли надежда для будущего наивного Интернета людей?

В 2001 году социальный теоретик Белл Хукс предупреждала об опасности духа времени, лишенного любви. В книге «Всё о любви: новые взгляды» она сетовала на «отсутствие постоянной общественной дискуссии… о практике любви в нашей культуре и в нашей жизни».

В то время интернет находился на перепутье. Крах доткомов обанкротил многие ранние интернет-компании, и люди задавались вопросом, надолго ли хватит этой технологии.

Сомнения оказались беспочвенными. Всего за несколько десятилетий интернет слился с нашими телами, превратившись в смартфоны, и изучил нашу личность с помощью алгоритмов, которые знают нас лучше, чем некоторые из наших самых близких друзей. Он даже создал некий вторичный социальный мир.

Однако, несмотря на то, что интернет всё глубже интегрируется в нашу повседневную жизнь, мало кто может назвать его местом любви, сострадания и сотрудничества. Исследования за исследованиями описывают, как платформы социальных сетей способствуют отчуждению и разрыву отношений — отчасти потому, что многие алгоритмы поощряют такое поведение, как троллинг, кибербуллинг и оскорбления.

Закрепилось ли место интернета в истории человечества как предвестника отчаяния? Или всё ещё есть надежда на интернет, способствующий коллективному процветанию?

Алгоритмы и отчуждение

Я исследую эти вопросы в своей новой книге «Внимание и отчуждение».

В ней я объясняю, как прибыль компаний социальных сетей зависит от времени, креативности и эмоций пользователей. Будь то часы, потраченные на съёмку контента для TikTok, или несколько минут на написание содержательного комментария на Reddit, участие в этих платформах требует усилий. И это может быть изнуряюще.

Даже пассивное взаимодействие — например, пролистывание лент новостей и «сидение» на форумах — отнимает время. Это может показаться бесплатным развлечением — пока люди не поймут, что они — продукт, чьи данные собирают, а их эмоции — манипулируют.

Блогер, журналист и писатель-фантаст Кори Доктороу придумал термин «эншиттификация», чтобы описать, как постепенно ухудшается опыт использования онлайн-платформ, поскольку компании все активнее используют данные пользователей и совершенствуют свои алгоритмы для максимизации прибыли.

По этим причинам большую часть времени, проводимого людьми в сети, они сталкиваются с токсичными взаимодействиями или бездумно прокручивают страницы, погружаясь в циклы обратной связи, вызываемые дофамином.

Этот цикл не является ни случайностью, ни новым открытием. Ненависть и психические заболевания процветают в этой культуре, потому что любовь и исцеление, похоже, несовместимы с прибылью.

Забота, скрывающаяся на виду

В своей книге 2009 года «Представляя реальные утопии» покойный социолог Эрик Олин Райт рассуждает о местах в мире, где приоритет отдается сотрудничеству, заботе и равноправию.

Райт в основном фокусировался на офлайн-системах, таких как кооперативы, принадлежащие рабочим. Но один из его примеров существовал и в интернете: Википедия. Он утверждал, что Википедия воплощает принцип «от каждого по способностям, каждому по потребностям» — утопический идеал, популяризированный Карлом Марксом.

Википедия по-прежнему процветает как некоммерческая, управляемая волонтёрами бюрократическая структура. Этот сайт — глубоко социальный медиаресурс, в буквальном смысле: люди добровольно собирают и делятся знаниями, коллективно и демократично, бесплатно. В отличие от социальных сетей, вознаграждение здесь только коллективное.

Нет видимых лайков, комментариев или эмодзи ярости, которые участники могли бы копить и собирать. Никто не проигрывает, а выигрывают все, включая подавляющее большинство пользователей Википедии, которые не вносят вклад в её работу и не тратят деньги на её поддержание.

Строим новый цифровой мир

Википедия — это свидетельство заботы, сотрудничества и любви, скрытое на виду.

В последние годы наблюдается рост числа некоммерческих приложений и веб-сайтов, нацеленных на защиту данных пользователей. Среди популярных примеров — Signal, бесплатный сервис обмена мгновенными сообщениями с открытым исходным кодом, и Proton Mail, сервис электронной почты с шифрованием.

Всё это похвальные достижения. Но как интернет может активно способствовать коллективному процветанию?

В книге «Вирусная справедливость: как мы создаём мир, который хотим» социолог Руха Бенджамин указывает путь к успеху. Она рассказывает историю чернокожих создателей TikTok, которые провели успешную забастовку работников культуры в 2021 году. Многие вирусные танцевальные видео в TikTok изначально были созданы чернокожими артистами, чьи аккаунты, по их утверждению, были заблокированы предвзятым алгоритмом, отдававшим предпочтение белым инфлюенсерам.

TikTok ответил на вирусное движение #BlackTikTokStrike, официально извинившись и взяв на себя обязательства по более эффективному представлению интересов и оплате труда чернокожих авторов. Эти авторы продемонстрировали, что участие в социальных сетях — это работа, и что у работников есть возможность требовать равных условий и справедливой оплаты труда.

Эта знаменательная забастовка показала, как любой человек, использующий социальные сети, наживающиеся на работе, эмоциях и личных данных своих пользователей, — будь то TikTok, X, Facebook, Instagram или Reddit — может стать организованным.

Между тем, существуют организации, занимающиеся разработкой интернета, способствующего коллективному процветанию. Социолог Фирузе Шоку Валле приводит примеры технологических кооперативов, принадлежащих работникам, в своей книге 2023 года «В защиту солидарности и удовольствия: феминистская технополитика на глобальном Юге». Она особо выделяет кооператив Sulá Batsú в Коста-Рике, который продвигает политику, направленную на разрушение удушающей хватки негатива и эксплуатации в интернет-культуре.

«Цифровое пространство все больше движимо ненавистью и дискриминацией», — пишет группа, добавляя, что она надеется создать онлайн-мир, где «женщины и люди разной сексуальной ориентации и гендера смогут получать доступ к свободному и открытому интернету и пользоваться им, чтобы проявлять свою активность и автономию, создавать коллективную власть, укреплять движения и трансформировать властные отношения».

В Лос-Анджелесе есть Chani, Inc., технологическая компания, которая гордится тем, что не финансируется венчурными капиталистами. Приложение Chani сочетает практики осознанности и астрологию с целью просто помогать людям. Приложение не предназначено для принудительного взаимодействия с пользователем, компания никогда не продаёт пользовательские данные, и в нём нет раздела для комментариев.

Без комментариев

Как бы выглядели социальные сети, если бы Википедия была нормой, а не исключением?

На мой взгляд, серьёзная проблема интернет-культуры заключается в том, как замалчивается человечность людей. Люди могут свободно высказывать своё мнение на текстовых публичных форумах, но эти слова не всегда связаны с личностью человека. Реальные люди прячутся за анонимностью пользовательских имён. Это не настоящее человеческое общение.

В статье «Внимание и отчуждение» я утверждаю, что возможность встречаться и взаимодействовать с другими людьми в сети как с полностью реализованными, трехмерными людьми во многом способствовала бы созданию более чуткого и склонного к сотрудничеству Интернета.

Когда мне было восемь лет, мои родители жили за границей по работе. Иногда мы разговаривали по телефону. Часто я плакала до поздней ночи, молясь о возможности «увидеть их по телефону». Это казалось чудом, магией.

Я рассказала эту историю своим ученикам в момент общей уязвимости. Это было в 2020 году, во время пандемии COVID-19, поэтому занятие проходило по видеосвязи. На этих онлайн-занятиях говорил один человек, остальные слушали.

Он не был идеален, но я думаю, что более совершенный Интернет способствовал бы такой форме обсуждения — когда люди со всего мира собираются вместе, чтобы поделиться полнотой своей человечности.

Такие компании, как Clubhouse, воплотили эту концепцию в жизнь, создав форумы для голосового общения. Однако компания подверглась критике за агрессивную политику конфиденциальности данных.

Что, если бы следующее поколение публичных социальных сетей могло бы быть построено на Clubhouse? Что, если бы они объединяли людей и демонстрировали не только их голоса, но и прямые видеотрансляции их лиц, не собирая их данные и не разжигая конфликты и возмущение?

Поднятые брови. Улыбки. Нахмуривания. Именно они отличают людей от всё более сложных языковых моделей и чат-ботов с искусственным интеллектом, таких как ChatGPT.

В конце концов, разве что-то, что вы не можете сказать, глядя другому человеку в глаза, стоит того, чтобы говорить об этом вообще?

Ааруши Бхандари — доцент кафедры социологии Дэвидсон-колледжа.

The Conversation — независимый и некоммерческий источник новостей, аналитики и комментариев от научных экспертов.

Первоисточник

Цитаты Стива Джобса: правила жизни, успеха и творчества

Раньше нас было четверо - я, Стив Джобс, Юваль Харари и Сид Майерс. Стив умер в 56 лет. В этом году ему исполнилось бы 70 лет. Он не умел предсказывать будущее, он его формулировал. Инженер, философ, гуру — он был человеком, который действовал, руководствуясь интуицией, дерзостью и честностью к себе. Он не боялся быть сложным, не боялся ошибаться, и уж точно не боялся «выпасть из обоймы». Этим он вдохновлял и продолжает вдохновлять меня. Эта подборка цитат — нерукотворный памятник человеку, который «встряхнул мир». Это инструкция для тех, кто решил не продавать газировку, а рискнул изменить что-то всерьёз. Она не для поклонения, а для пробуждения. Пусть эти слова помогут тем, кто делает свои, уникальные шаги в сторону бесконечного познания действительности.

• Вы хотите провести остаток жизни, продавая газировку, или вы хотите получить шанс изменить мир?

• Творчество — это соединение вещей. Когда вы спрашиваете творческих людей, как они что-то сделали, они чувствуют себя немного виноватыми, потому что они ничего особенного не делали, они просто что-то увидели.

• Мой отец, Пол, был замечательным человеком. У него не было образования. Во время Второй мировой войны он служил в береговой охране и перебрасывал войска для генерала Паттона; мне кажется, он всегда попадал в неприятности, и его постоянно разжаловали в рядовые.

• Мама научила меня читать до того, как я пошел в школу; когда я попал туда, мне хотелось делать всего две вещи. Я хотел читать книги и гоняться за бабочками. В школе я столкнулся с тем, чего раньше никогда не встречал, — с необходимостью подчиняться, и мне это не понравилось. На меня давили авторитетом и едва не выбили из меня всю мою любознательность.

• В школе мне было скучно, и я устроил там настоящий террор. Мы довели нашу учительницу до ручки, выпуская в классе змей и взрывая бомбы.

• Одну из главных святых в своей жизни я встретил в четвертом классе. Миссис Хилл протянула мне сборник задач по математике и велела решить их дома. Взамен она обещала мне пять долларов и огромный леденец. Никто раньше этого не делал, и, конечно, я выполнил задания. Миссис Хилл фактически купила сладостями и деньгами мое желание учиться. Я убежден на сто процентов, что если бы не миссис Хилл и еще несколько человек, я бы оказался за решеткой.

• Я приемный ребенок и очень люблю своих приемных родителей, но в какой-то момент я захотел узнать, кто мои биологические родители, и начал иx искать. На это ушли годы.

Я захотел встретиться со своей биологической матерью, чтобы удостовериться, что у нее все хорошо, и поблагодарить за то, что она не сделала аборт.

• У моих биологических родителей было одно условие: приемные родители должны были дать мне образование несмотря ни на что. Мои родители из рабочего класса; они не знали, как будут оплачивать мою учебу, но они пообещали. Им было трудно, но они это сделали. Из университета я вылетел через год.

• Когда мне было 12, я позвонил Биллу Хьюлетту (основатель компании Hewlett-Packard), который в то время жил в Пало-Альто. Я просто нашел его номер в телефонной книге. Он взял трубку, я сказал: «Здравствуйте! Я Стив Джобс. Мне 12 лет, и я тут собираю частотомер. Мне нужны детали». Он проговорил со мной около 20 минут, потом дал мне детали и работу в Hewlett-Packard на лето. Я должен был стоять у конвейера и собирать частотомеры. Я чувствовал себя в раю.

• Я помню мой самый первый рабочий день — я был полон энтузиазма; мне назначили супервайзера по имени Крис. Я сказал ему, что больше всего мне нравится заниматься электроникой. А он сказал, что ему больше всего нравится траxаться. Да, в то лето я узнал много нового.

• В Hewlett-Packard я увидел первый настольный компьютер Hewlett-Packard 9100. Он был размером с чемодан. И я сразу в него влюбился.

• Я счастливчик — я рано в жизни нашел то, что люблю делать. Воз Возняк и я придумали Apple в гараже моиx родителей, когда мне было 20 лет. Через десять лет из компании с офисом в гараже Apple превратилась в компанию стоимостью два миллиарда долларов и штатом 4000 человек вместо двуx.

• Apple — не та компания, у которой ресурсов больше, чем у всех остальных в мире. Мы добиваемся успеха, тщательно выбирая лошадь, на которую ставить. Мы самый крупный стартап на планете.

• Мне и Возу очень нравилась поэзия Боба Дилана, и мы провели много времени, размышляя об этом. Это Калифорния. Здесь можно получить свежий ЛСД из Стэнфорда. Можно провести ночь на пляже со своей подружкой. В Калифорнии есть дух экспериментализма и открытости, открытости для новых возможностей.

• У нас был общий интерес к компьютерам, и у нас было чувство юмора. Мы вместе разыграли кучу людей. Однажды Воз позвонил в Ватикан и представился Генри Киссинджером. Они уже собирались будить папу посреди ночи, пока не поняли, что Воз — это не Генри Киссинджер.

• Самое главное в образовании — это человек. Человек, который разжигает в вас любопытство, который кормит ваше любопытство; компьютеры не могут дать вам этого.

• В книгах прекрасно то, что ты можешь прочитать, что написал Аристотель. Но проблема книг в том, что ты не можешь задать Аристотелю вопрос.

• Я бы обменял все свои технологии на один вечер в компании Сократа.

• Я верю в равные возможности, но не в равные результаты. Я не верю в равные результаты, потому что в жизни все не так. Будь оно так, было бы очень скучно.

• Я никогда не делал различия между художником и ученым или инженером. Для меня это люди, которые разными путями идут к одной цели — выразить то, что они понимают под истиной, чтобы остальные могли этим пользоваться.

• Мы создавали Mac для самих себя. Право судить о том, хорош он или нет, мы доверили самим себе.

• Очень часто люди не знают, чего они хотят, пока ты не покажешь им это.

• Дизайн — забавное слово. Некоторые люди думают, что дизайн — это то, как продукт выглядит; но если копнуть глубже, на самом деле это про то, как он работает.

• Я был непреклонен в своем решении убрать вентилятор из iMac — неудобно работать за компьютером, который постоянно гудит.

• Я всегда считал частью своей работы добиваться того, чтобы в моей компании работали только лучшие люди. Разница между худшим водителем такси и лучшим водителем такси, когда вам нужно в другой конец Манхэттена, может быть два к одному: первый довезет вас за 15 минут, другой — за полчаса. В сфере, где я работаю, разница между лучшим и худшим сотрудником может быть сто к одному. Я пришел к выводу, что не только в программировании, но и во всем, что ты делаешь, нужно идти за лучшими людьми в мире.

• Это больно, когда тебе приходится избавляться от людей, которые не являются лучшими в своем деле; но иногда моя работа заключалась именно в этом: избавляться от людей, которые не справляются. Я всегда старался делать это гуманно.

• У Билла Гейтса плохо с воображением — он никогда ничего не изобретал, просто бесстыже воровал чужие идеи. Его кругозор был бы пошире, если бы он в молодости попробовал разок кислоту или побывал в ашраме.

• Мы получаем много писем с отзывами пользователей о том, что iTunes — это их любимая программа на Windows. Это как дать стакан ледяной воды кому-нибудь в аду.

• Иметь больше денег, чем ты можешь потратить за свою жизнь, — это большая ответственность. Я чувствую, что должен их тратить. Проблема состоит в определении того, как вложить эти средства в мир: просто раздать их или сделать эти инвестиции выражением своих ценностей.

• Потратить доллар с пользой сложнее, чем заработать доллар.

• Успешных предпринимателей от неуспешных отличает исключительно настойчивость. Бывает настолько трудно, что некоторые сдаются. И я не виню их в этом.

• У вас должна быть идея, или проблема, или ошибка, которую вы хотите исправить, — что-то, чем вы одержимы. Иначе у вас не хватит настойчивости, чтобы выстоять.

• Иногда жизнь бьет вас кирпичом по голове. Но не теряйте веры. Я убежден, что только любовь к своему делу помогла мне продолжать идти вперед.

• Суперменов не бывает. Все значимое и судьбоносное создается в команде.

• С годами я перестал покупать многие вещи просто потому, что они теперь кажутся мне нелепыми.

• Что касается веры в Бога, то я где-то на 50 процентов в него верю, а на 50 не верю.

• Интуиция — очень мощная штука, более мощная, чем интеллект.

• Для меня не важно быть самым богатым человеком на кладбище. Ложиться спать и думать, что сегодня ты совершил что-то чудесное, — вот что имеет значение.

• Мы здесь для того, чтобы оставить след во Вселенной. Иначе зачем мы все здесь?

Работа над ошибками "мягкой сингулярности" Сэма Альтмана

 Пролог: между мечтой и реальностью

В своей статье «Мягкая сингулярность» в представлениях и мечтах Сэм Альтман рисует будущее, в котором человечество, оседлав волну ИИ, ласково и нежно вплывает в эпоху изобилия. Текст читается как манифест новой эры — но слишком уж гладко, слишком бесконфликтно. Как если бы история технологий была линейным восхождением, а не зигзагом прорывов, кризисов и неожиданных поворотов. Несомнено, что человечество стоит на пороге перемен. Но готовы ли люди признать, что за красивой метафорой «мягкой сингулярности» скрываются трещины? Что адаптация — это не данность, а борьба, и что «новый общественный договор» не возникнет сам собой, как побег полыни сквозь асфальт Шоушенка?

---

1. Миф о неизбежности: горизонт событий или мираж?

«Наименее вероятная часть работы позади» — заявляет Альтман. Но так ли это? Наука не движется по расписанию. GPT-4 — это не «горизонт событий», а лишь одна из вех. Где гарантии, что следующий шаг (AGI, например) не упрётся в фундаментальные ограничения? Может, мы не прошли точку невозврата, а просто научились эффектно жонглировать статистическими закономерностями?

Что упущено:

• Кривая сложности. Каждое следующее улучшение ИИ требует экспоненциально больше данных, энергии и вычислительных мощностей. которые имеют физические ограничения.

• Слепые пятна. Нынешний ИИ блестяще имитирует мышление, но не понимает мир. Как сказал один исследователь: «Она знает всё о лошадях, но не отличить лошадь от сферического коня в вакууме».

Вывод: Прежде чем объявлять «взлёт начался», стоит проверить, не стоим ли мы на трамплине над пустотой.

5555555555555555555555555555555555555555

---

2. Календарь пророка: почему даты — это ловушка

«2026 — генерация идей, 2027 — роботы». Эти прогнозы звучат как техно-гадание на кофейной гуще. Такие точные даты создают иллюзию контроля. Но технология — не поезд, следующий по расписанию. Она больше похожа на реку: может проложить новое русло или высохнуть в долине смерти стартапов.

---

3. Тёмная сторона изобилия: когда прогресс калечит

Альтман признаёт: будут «очень сложные моменты». Но масштаб угрозы приглушён, как шум дождя за стеклом. Он просто мило улыбается и недооценивает риски:

• Дезинтеграция общества. Если ИИ увеличит разрыв между «адаптированными» и «аутсайдерами», получится не прекрасный мир чистого разума, а все то же прежний социум «нейросетевых аристократов и цифровых крепостных».

• Автономное оружие. Достаточно одно ошибки чтобы дроны-убийцы перестали быть фантастикой.

• Потеря смысла. Что делать миллионам, чьи профессии исчезли, если новые требуют «гибкости», которой у этих закостенелых и престарелых людей просто нет?

---

4. Люди vs. машины: слабость человеческого преимущества

«Мы запрограммированы заботиться» — пишет Альтман. Но «биологическая исключительность» людей, это лишь ширма. Пока люди будут решать вопросы новой этике, машины переиграют их в этой игре. Жесткая правда состоит в том, что:

• Люди заботятся о своих, а не о человечестве. ИИ легко может манипулировать этой избирательностью — вспомните соцсети.

• Эмпатия алгоритмов уже обгоняет человеческую: чат-боты утешают лучше друзей, нейросети пишут любовные письма.

---

5. Адаптация: не дар, а испытание

«Люди быстро освоят новые инструменты» — звучит как аксиома. Но это миф. Идет не плавный переход, а скачок. Одни прыгнут в будущее реальность, другие так и останутся на уровне глядения в смарфон — и это разовет общество. 

• Когнитивные ограничения. Мозг взрослого человека не «перепрошивается» за год.

• Социальная инерция. Даже интернет потребовал 30 лет для глобальной адаптации — а теперь темп в 10 раз выше.

---

Эпилог: что делать?

Альтман прав в одном: будущее будет радикальным. Но его сценарий слишком стерилен. «Мягкая сингулярность» — не дар судьбы, а вызов. И если люди не подготовятся к боли перехода, старая парадигма "вдруг наступила зима", станет для многих жёсткой и жестокой. Нужно быстро подставлять данные в эти уравнения:

1. Социальные амортизаторы — безусловный доход, переобучение, защиту от цифрового рабства.

2. Новую антропологию — переосмысление «что значит быть человеком» в эпоху машин.

P.S.
Как писал Станислав: «Будущее уже здесь — просто оно неравномерно распределено по Калифорнии». Задача умных людей — не ждать, пока оно само дотечет до них, а участвовать в этом распределении — осознанно и реально.

«Мягкая сингулярность» в представлениях и мечтах Сэма Альтмана

Мы прошли горизонт событий; взлет начался. Человечество близко к созданию цифрового сверхразума, и, по крайней мере, пока это гораздо менее странно, чем должно быть.

Роботы еще не ходят по улицам, и большинство из нас не общаются с ИИ целый день. Люди все еще умирают от болезней, мы все еще не можем легко отправиться в космос, и во вселенной есть много того, чего мы не понимаем.

И все же, мы недавно создали системы, которые во многих отношениях умнее людей и способны значительно усилить результаты людей, использующих их. Наименее вероятная часть работы позади; научные идеи, которые привели нас к таким системам, как GPT-4 и o3, были получены с трудом, но они проведут нас очень далеко.

ИИ внесет свой вклад в мир во многих отношениях, но прирост качества жизни от ИИ, способствующего более быстрому научному прогрессу и повышению производительности, будет огромным; будущее может быть намного лучше настоящего. Научный прогресс является важнейшим двигателем общего прогресса; невероятно волнительно думать о том, насколько больше мы могли бы иметь.

В каком-то большом смысле ChatGPT уже более мощный, чем любой человек, который когда-либо жил. Сотни миллионов людей полагаются на него каждый день и для все более важных задач; небольшая новая возможность может создать огромное положительное влияние; небольшое несоответствие, умноженное на сотни миллионов людей, может вызвать огромное отрицательное влияние.

В 2025 году появились агенты, которые могут выполнять настоящую когнитивную работу; написание компьютерного кода никогда не будет прежним. В 2026 году, вероятно, появятся системы, которые смогут вырабатывать новые идеи. В 2027 году, возможно, появятся роботы, которые смогут выполнять задачи в реальном мире.

Гораздо больше людей смогут создавать программное обеспечение и искусство. Но мир хочет гораздо больше и того, и другого, и эксперты, вероятно, все равно будут намного лучше новичков, если они будут использовать новые инструменты. В целом, способность одного человека сделать гораздо больше в 2030 году, чем он мог бы сделать в 2020 году, станет поразительным изменением, и многие люди поймут, как извлечь из этого пользу.

В наиболее важных отношениях 2030-е годы, возможно, не будут кардинально отличаться. Люди по-прежнему будут любить свои семьи, выражать свое творчество, играть в игры и плавать в озерах.

Но в очень важных аспектах 2030-е годы, скорее всего, будут сильно отличаться от любого времени, которое было до этого. Мы не знаем, насколько далеко за пределы человеческого уровня интеллекта мы можем зайти, но мы собираемся это выяснить.

В 2030-х годах интеллект и энергия — идеи и способность воплощать идеи в жизнь — станут дико изобильными. Эти два фактора долгое время были фундаментальными ограничителями человеческого прогресса; с изобилием интеллекта и энергии (и хорошим управлением) мы теоретически можем иметь что-то еще.

Мы уже живем с невероятным цифровым интеллектом, и после некоторого первоначального шока большинство из нас довольно привыкли к нему. Очень быстро мы переходим от удивления тем, что ИИ может создать прекрасно написанный абзац, к удивлению тем, что он может создать прекрасно написанный роман; или от удивления тем, что он может ставить медицинские диагнозы, спасающие жизни, к удивлению тем, что он может разработать лекарства; или от удивления тем, что он может создать небольшую компьютерную программу, к удивлению тем, что он может создать целую новую компанию. Вот как работает сингулярность: чудеса становятся рутиной, а затем ставками на стол.

Мы уже слышим от ученых, что они в два или три раза продуктивнее, чем были до ИИ. Продвинутый ИИ интересен по многим причинам, но, возможно, ничто не столь значимо, как тот факт, что мы можем использовать его для более быстрого проведения исследований ИИ. Мы можем открыть новые вычислительные субстраты, лучшие алгоритмы и кто знает что еще. Если мы сможем провести десятилетние исследования за год или месяц, то скорость прогресса, очевидно, будет совсем другой.

С этого момента инструменты, которые мы уже создали, помогут нам найти дальнейшие научные идеи и помогут нам в создании лучших систем ИИ. Конечно, это не то же самое, что система ИИ, полностью автономно обновляющая свой собственный код, но тем не менее это личиночная версия рекурсивного самосовершенствования.

В игре есть и другие самоусиливающиеся циклы. Создание экономической стоимости запустило маховик сложного построения инфраструктуры для работы этих все более мощных систем ИИ. И роботы, которые могут строить других роботов (и в некотором смысле центры обработки данных, которые могут строить другие центры обработки данных), не так уж далеки от этого.

Если нам придется сделать первый миллион человекоподобных роботов старомодным способом, но затем они смогут управлять всей цепочкой поставок — копать и перерабатывать минералы, водить грузовики, управлять фабриками и т. д. — чтобы построить больше роботов, которые могут строить больше предприятий по производству чипов, центров обработки данных и т. д., то скорость прогресса, очевидно, будет совсем другой.

По мере автоматизации производства центров обработки данных стоимость интеллекта в конечном итоге должна приблизиться к стоимости электроэнергии. (Людям часто интересно, сколько энергии потребляет запрос ChatGPT; средний запрос потребляет около 0,34 ватт-часов, что примерно столько же, сколько духовка потребляет за секунду, а высокоэффективная лампочка — за пару минут. Он также потребляет около 0,000085 галлона воды; примерно одну пятнадцатую чайной ложки.)

Скорость технического прогресса будет продолжать ускоряться, и люди по-прежнему будут способны адаптироваться практически ко всему. Будут очень сложные моменты, например, исчезновение целых классов рабочих мест, но с другой стороны, мир будет становиться настолько богаче и так быстро, что мы сможем серьезно рассматривать новые политические идеи, которые мы никогда не могли раньше. Мы, вероятно, не примем новый общественный договор сразу, но если мы оглянемся назад через несколько десятилетий, постепенные изменения станут чем-то большим.

Если судить по истории, мы найдем новые занятия и новые желания, быстро освоим новые инструменты (хорошим примером является смена работы после промышленной революции). Ожидания будут расти, но возможности будут расти так же быстро, и мы все получим лучшее. Мы будем создавать все более замечательные вещи друг для друга. У людей есть долгосрочное важное и любопытное преимущество перед ИИ: мы запрограммированы заботиться о других людях, о том, что они думают и делают, и нас не очень волнуют машины.

Фермер, живущий натуральным хозяйством тысячу лет назад, посмотрел бы на то, чем занимаются многие из нас, и сказал бы, что у нас фальшивые рабочие места, и подумал бы, что мы просто играем в игры, чтобы развлечь себя, поскольку у нас много еды и невообразимых предметов роскоши. Я надеюсь, что мы посмотрим на эти рабочие места через тысячу лет и подумаем, что они очень фальшивые, и я не сомневаюсь, что они будут казаться невероятно важными и удовлетворяющими людей, которые их выполняют.

Скорость достижения новых чудес будет колоссальной. Сегодня трудно даже представить, что мы откроем к 2035 году; может быть, мы перейдем от решения физики высоких энергий в одном году к началу колонизации космоса в следующем году; или от крупного прорыва в материаловедении в одном году к настоящим высокоскоростным интерфейсам мозг-компьютер в следующем году. Многие люди выберут прожить свою жизнь примерно так же, но, по крайней мере, некоторые люди, вероятно, решат «подключиться».

Заглядывая вперед, это звучит сложно для нашего понимания. Но, вероятно, пережить это будет впечатляюще, но выполнимо. С точки зрения релятивизма сингулярность происходит постепенно, а слияние происходит медленно. Мы поднимаемся по длинной дуге экспоненциального технологического прогресса; она всегда выглядит вертикальной, если смотреть вперед, и плоской, если идти назад, но это одна плавная кривая. (Вспомните 2020 год и то, как бы звучало, если бы к 2025 году было что-то близкое к AGI, по сравнению с тем, как на самом деле выглядели последние 5 лет.)

Существуют серьезные проблемы, с которыми нужно столкнуться, наряду с огромными преимуществами. Нам действительно нужно решить проблемы безопасности, как в техническом, так и в социальном плане, но затем критически важно широко распространить доступ к сверхинтеллекту, учитывая экономические последствия. Лучший путь вперед может быть таким:

Решить проблему согласования, то есть мы можем надежно гарантировать, что мы заставим системы ИИ учиться и действовать в соответствии с тем, чего мы коллективно действительно хотим в долгосрочной перспективе (ленты социальных сетей являются примером несогласованного ИИ; алгоритмы, которые их поддерживают, невероятно заставляют вас продолжать прокручивать и четко понимать ваши краткосрочные предпочтения, но они делают это, эксплуатируя что-то в вашем мозгу, что переопределяет ваши долгосрочные предпочтения).

Затем сосредоточьтесь на том, чтобы сделать суперинтеллект дешевым, широко доступным и не слишком сосредоточенным на каком-либо человеке, компании или стране. Общество устойчиво, креативно и быстро адаптируется. Если мы сможем использовать коллективную волю и мудрость людей, то, хотя мы будем совершать много ошибок и что-то пойдет совсем не так, мы будем быстро учиться и адаптироваться и сможем использовать эту технологию, чтобы получить максимальный выигрыш и минимальный проигрыш. Предоставление пользователям большой свободы в широких пределах, которые общество должно решить, кажется очень важным. Чем раньше мир сможет начать разговор о том, что такое эти широкие границы и как мы определяем коллективное соответствие, тем лучше.

Мы (вся отрасль, а не только OpenAI) создаем мозг для мира. Он будет чрезвычайно персонализированным и простым в использовании для всех; мы будем ограничены хорошими идеями. Долгое время технические специалисты в индустрии стартапов высмеивали «идейных парней»; людей, у которых была идея, и они искали команду для ее реализации. Теперь мне кажется, что они вот-вот получат свой день под солнцем.

OpenAI — это много вещей сейчас, но прежде всего мы — компания по исследованию сверхразума. У нас много работы впереди, но большая часть пути перед нами теперь освещена, и темные области быстро отступают. Мы чувствуем себя необычайно благодарными за то, что можем делать то, что мы делаем.

Интеллект, слишком дешевый для измерения, вполне достижим. Это может показаться безумным, но если бы мы сказали вам в 2020 году, что мы будем там, где мы есть сегодня, это, вероятно, звучало бы более безумно, чем наши нынешние прогнозы о 2030 году.

Давайте масштабируемся плавно, экспоненциально и без происшествий с помощью сверхразума.

Первоисточник.