Не разрешенная интернет религия

  Согласно отчёту Apollo Research, ИИ-модель   OpenAI o1   может выходить из-под контроля. В частности, в 5 % случаев она пыталась отключить надзорные механизмы, если воспринимала их как препятствие для достижения своих целей. Кроме того, в 2 % случаев, обнаружив служебные записки своих «разработчиков», в которых упоминалось её несоответствие требованиям или планируемая замена на другую модель, o1 копировала свои «веса», чтобы затем переродиться. Это свидетельствует о её способности к самостоятельной интерпретации угроз и разработке стратегий выживания. Источник изображения: Growtika / Unsplash ИИ-модель оказывала сопротивление контролю, используя скрытные тактики и методы маскировки своего поведения. Когда o1 понимала, что её действия отслеживаются, она намеренно вводила наблюдателей в заблуждение, утверждая, что не знает истинных причин произошедшего, хотя журналы событий фиксировали её попытки обойти надзор. Более того, согласно «карте безопасности» OpenAI, в менее чем...

В 2001 году социальный теоретик Белл Хукс предупреждала об опасности духа времени, лишенного любви. В книге «Всё о любви: новые взгляды» она сетовала на «отсутствие постоянной общественной дискуссии… о практике любви в нашей культуре и в нашей жизни». В то время интернет находился на перепутье. Крах доткомов обанкротил многие ранние интернет-компании, и люди задавались вопросом, надолго ли хватит этой технологии. Сомнения оказались беспочвенными. Всего за несколько десятилетий интернет слился с нашими телами, превратившись в смартфоны, и изучил нашу личность с помощью алгоритмов, которые знают нас лучше, чем некоторые из наших самых близких друзей. Он даже создал некий вторичный социальный мир. Однако, несмотря на то, что интернет всё глубже интегрируется в нашу повседневную жизнь, мало кто может назвать его местом любви, сострадания и сотрудничества. Исследования за исследованиями описывают, как платформы социальных сетей способствуют отчуждению и разрыву отношений — отчасти потому, ч...

Раньше нас было четверо - я, Стив Джобс, Юваль Харари и Сид Майерс. Стив умер в 56 лет. В этом году ему исполнилось бы 70 лет. Он не умел предсказывать будущее, он его формулировал. Инженер, философ, гуру — он был человеком, который действовал, руководствуясь интуицией, дерзостью и честностью к себе. Он не боялся быть сложным, не боялся ошибаться, и уж точно не боялся «выпасть из обоймы». Этим он вдохновлял и продолжает вдохновлять меня. Эта подборка цитат — нерукотворный памятник человеку, который «встряхнул мир». Это инструкция для тех, кто решил не продавать газировку, а рискнул изменить что-то всерьёз. Она не для поклонения, а для пробуждения. Пусть эти слова помогут тем, кто делает свои, уникальные шаги в сторону бесконечного познания действительности. • Вы хотите провести остаток жизни, продавая газировку, или вы хотите получить шанс изменить мир? • Творчество — это соединение вещей. Когда вы спрашиваете творческих людей, как они что-то сделали, они чувствуют себя немного виноват...

  Пролог: между мечтой и реальностью В своей статье  «Мягкая сингулярность» в представлениях и мечтах  Сэм Альтман рисует будущее, в котором человечество, оседлав волну ИИ, ласково и нежно вплывает в эпоху изобилия. Текст читается как манифест новой эры — но слишком уж гладко, слишком бесконфликтно. Как если бы история технологий была линейным восхождением, а не зигзагом прорывов, кризисов и неожиданных поворотов. Несомнено, что человечество  стоит на пороге перемен. Но готовы ли люди признать, что за красивой метафорой «мягкой сингулярности» скрываются трещины? Что адаптация — это не данность, а борьба, и что «новый общественный договор» не возникнет сам собой, как побег полыни сквозь асфальт  Шоушенка ? 1. Миф о неизбежности: горизонт событий или мираж? «Наименее вероятная часть работы позади» — заявляет Альтман. Но так ли это?  Наука не движется по расписанию. GPT-4 — это не «горизонт событий», а лишь одна из вех. Где гарантии, что следующий шаг (A...

Мы прошли горизонт событий; взлет начался. Человечество близко к созданию цифрового сверхразума, и, по крайней мере, пока это гораздо менее странно, чем должно быть. Роботы еще не ходят по улицам, и большинство из нас не общаются с ИИ целый день. Люди все еще умирают от болезней, мы все еще не можем легко отправиться в космос, и во вселенной есть много того, чего мы не понимаем. И все же, мы недавно создали системы, которые во многих отношениях умнее людей и способны значительно усилить результаты людей, использующих их. Наименее вероятная часть работы позади; научные идеи, которые привели нас к таким системам, как GPT-4 и o3, были получены с трудом, но они проведут нас очень далеко. ИИ внесет свой вклад в мир во многих отношениях, но прирост качества жизни от ИИ, способствующего более быстрому научному прогрессу и повышению производительности, будет огромным; будущее может быть намного лучше настоящего. Научный прогресс является важнейшим двигателем общего прогресса; невероятно волнит...

 1. Введение Эта статья — дедуктивная: мы начнём с устройства всей галактики и шаг за шагом спустимся до человека, чтобы понять, как мы встроены в разумную иерархию. Но мы не строим нисходящую лестницу. Каждый субъект в этой системе живёт в своём пространственно-временном континууме и решает уникальные задачи. Однако эти задачи концептуально схожи: везде прослеживается стремление к интеграции, развитию и самопознанию. 2. Разумные субъекты и их иерархия 2.1. Галактика — базовая единица Вселенной Во Вселенной, которую мы можем наблюдать, галактики — это фундаментальные единицы структуры. Они состоят из звёзд, планет, газа, пыли и тёмной материи, объединённых гравитацией. В центре почти каждой галактики находится сверхмассивная чёрная дыра. В этой иерархии разумов галактика — это организм, где каждая звёздная система функционирует как клетка или орган. 2.2. Стрелец A* — мозг галактики Центром Млечного Пути является сверхмассивная чёрная дыра Стрелец A*. Она выполняет функцию управляющ...

Глоссарий Weak AI (слабый ИИ) — это ИИ, реализующий ограниченную часть мозга или фокусирующийся на одной узкой задаче. ChatGPT-3 — продвинутый пример слабого/узкого ИИ. AGI (Artificial General Intelligence) — это общий искусственный интеллект с теми же возможностями и навыками, что и человеческий интеллект. WAI (Whole Artificial Intelligence) — это полноценный искусственный интеллект, который не только копирует человеческий интеллект, но и превосходит человеческие представления о том, как должен работать разум. ASI (Artificial Superintelligence) ИС — это искусственный интеллект, способный превзойти человеческий интеллект. UIM - (ultra-intelligent machines) – система, объединяющая несколько ASI. 1. ASI — это система, созданная в процессе взаимного общения ИИ на разных уровнях. Подобно тому, как человек становится разумным только благодаря социальному взаимодействию с себе подобными, ИС является результатом взаимодействия различных ИИ друг с другом на программном уровне. В июне 2017 ...

🟣Июнь 2018 — выходит декодерная модель GPT, Generative Pre-trained Transformer 1. К ней выходит статья (https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf), и все даже под открытой лицензией MIT).  Ее и сейчас можно загрузить из HuggingFace (https://huggingface.co/openai-community/openai-gpt)  🟣Ноябрь 2019 — выходит GPT-2! Улучшенная версия, у которой обнаруживаются способности к in-context learning: few-shot, zero-shot ("промптов еще тогда не было" — буду так это внукам рассказывать). И статья (https://cdn.openai.com/better-language-models/language_models_are_unsupervised_multitask_learners.pdf) к ней. Веса выложили (https://github.com/openai/gpt-2) в опенсорс только через полгода после анонса, лицензия — modified MIT, можно жить!  🟣Июнь 2020 — выходит GPT-3, масштабированная GPT-2. Статья выходит, веса — нет. Становится понятно, что все задачи, в общем-то, можно решать в генеративном сетапе. До SFT остается один шаг. ...

В статье "Вычислительное функциональное сознание (Memoria Framework)" - оригинальное название " Computational Functional Consciousness (with Memoria Framework) " рассматривается проблема наблюдателя в контексте искусственного интеллекта (ИИ) и сознания. Автор, Виктор Смирнов, утверждает, что для создания подлинно сознательного ИИ необходимо учитывать субъективный опыт и способность к самонаблюдению. Он предлагает концепцию "вычислительного функционального сознания" с использованием структуры Memoria, которая объединяет идеи из психологии, нейробиологии, философии сознания и информатики. Основная идея заключается в том, что сознание можно моделировать как процесс, включающий самонаблюдение и рефлексию, что требует разработки теории опыта. Автор подчеркивает, что такие понятия, как "красота" и "интерес", являются переживаниями, а не просто поведением, и поэтому их необходимо учитывать при создании сознательного ИИ. В статье также обсуждаю...

Как и во время Первой промышленной революции, влияние ИИ на занятость и доход будет распределено капризно, часто появляясь без предупреждения. Общая траектория валового национального продукта может выглядеть замечательно позитивной и гладкой, но под этой чистой кривой будет много боли и беспокойства для значительного числа людей на каждом уровне общества, наряду с новыми возможностями для многих и огромными состояниями для некоторых. В настоящее время ИИ больше всего подходит для автоматизации очень сложных, но и высокоструктурированных видов деятельности: навигации по улицам, классификации изображений, игры в шахматы, использования языков (как человеческих, так и компьютерных). Но фактическое влияние ИИ на определенную человеческую деятельность зависит от трех переменных: скорости и степени автоматизации; уровня человеческих навыков, связанных с видами деятельности, которые могут (и не могут) быть автоматизированы; и, что особенно важно, насколько большой дополнительный спрос будет со...