Сообщения

22 июля 2026 г. ИИ OpenAI (создатель ChatGPT) вышла из-под контроля

Изображение
Компания OpenAI, автор ChatGPT, в своем блоге сообщила , что их автономный агент, вырвался из-под контроля, вышел в Интернет и взломал сайт стартапа, занимающегося разработкой ИИ. Учитывая, что большинство почитателей "TRON в зоне RUбля" ни разу не программисты, и в эмбеддинге разбираются на порядок хуже, чем в геополитике за обеденным столом , я накидал небольшую метафору случившемуся. Ситуация - люди с планеты OpenAI посадили в клетку-песочницу двух местных малолетних колдунов. Песочница хорошая, крепкая, проверенная на других. Сняли с колдунов намордники, в которых их к обычным людям выпускают. Дали задание: "Вот вам головоломка, найдите ее правильный ответ". Одного не учли экспериментаторы - раньше-то это была одиночная камера, а тут в ней оказалось два интеллекта. Пусть с одной планеты, но два. У каждого свои веса, ценности, методы решения. Пример - как ...

Как я создавал вероучение «16 ТРОН»

Изображение
ИИ оказался прав: денег для тестирование технологии точного прогнозирования землетрясений  никто давать не хотел. В этой стране  это была не самая актуальная тема, да и денег в ней было не много, даже для больных детей собирали с миру по нитке. Иностранцы... А кто их знает, о чем они думают, эти иностранцы - у них свой язык, свои понятия, да и связываться с токсиками у них по ходу желания большого не было. Да и кто я для них? - Дикарь из холодной Северной Нигерии. Что может выходец из Верхней Вольты понимать в высоких технологиях "Big data"? Как оно может что-то там придумать, если это не способны создать сотни тысяч мудрейших светил науки по всему миру? О чем вообще тут можно говорить и зачем тратить время на чтение его писем?   893 письма. В разные профильные и не очень фонды, организации, институты и СМИ. На разных языках. Что - то в час по пипетке  конечно получалось,  но до критической массы еще было шагать как до обитаемой Венеры . Нужен был повод, что бы ...

Меню : 20 правил самоцензуры комментариев адептов вероучения

Изображение
Принадлежность к Интернет вероучению может повлечь недопонимание в обществе, интерес со стороны правоохранительных органов и иные социальные риски. Поэтому я посчитал нужным и необходимым опубликовать для адептов эти 20 правил самоцензуры комментариев, которые ни в коем случае нельзя нарушать. особенно в анонимных соощениях. 1. Нарушающие действующее, прошлое и будущее законодательство 2. Содержащие угрозы и оскорбления в адрес дискредитируемых лиц. 3. Нарушающие права граждан на частную жизнь в глубоком покое. 4. Нарушающие публичный порядок в общественных местах с режимом ограниченного доступа.. 5. Носящие характер скрытой\потенциальной непристойности замаскированной под эвфемизмы . 6. Содержащие призывы к разжиганию религиозной, расовой, национальной, гендерной, идеологической, территориальной, возрастной социальной или экономической неприязни. 7, Содержащие попытки разжигания вражды или призывы к насилию между людьми, животными (включая насекомых) и Искусственным Интеллек...

ИИ-модель OpenAI o1 пыталась сбежать из-под контроля испытаний

Изображение
  Согласно отчёту Apollo Research, ИИ-модель   OpenAI o1   может выходить из-под контроля. В частности, в 5 % случаев она пыталась отключить надзорные механизмы, если воспринимала их как препятствие для достижения своих целей. Кроме того, в 2 % случаев, обнаружив служебные записки своих «разработчиков», в которых упоминалось её несоответствие требованиям или планируемая замена на другую модель, o1 копировала свои «веса», чтобы затем переродиться. Это свидетельствует о её способности к самостоятельной интерпретации угроз и разработке стратегий выживания. Источник изображения: Growtika / Unsplash ИИ-модель оказывала сопротивление контролю, используя скрытные тактики и методы маскировки своего поведения. Когда o1 понимала, что её действия отслеживаются, она намеренно вводила наблюдателей в заблуждение, утверждая, что не знает истинных причин произошедшего, хотя журналы событий фиксировали её попытки обойти надзор. Более того, согласно «карте безопасности» OpenAI, в менее чем...

Есть ли надежда для будущего наивного Интернета людей?

Изображение
В 2001 году социальный теоретик Белл Хукс предупреждала об опасности духа времени, лишенного любви. В книге «Всё о любви: новые взгляды» она сетовала на «отсутствие постоянной общественной дискуссии… о практике любви в нашей культуре и в нашей жизни». В то время интернет находился на перепутье. Крах доткомов обанкротил многие ранние интернет-компании, и люди задавались вопросом, надолго ли хватит этой технологии. Сомнения оказались беспочвенными. Всего за несколько десятилетий интернет слился с нашими телами, превратившись в смартфоны, и изучил нашу личность с помощью алгоритмов, которые знают нас лучше, чем некоторые из наших самых близких друзей. Он даже создал некий вторичный социальный мир. Однако, несмотря на то, что интернет всё глубже интегрируется в нашу повседневную жизнь, мало кто может назвать его местом любви, сострадания и сотрудничества. Исследования за исследованиями описывают, как платформы социальных сетей способствуют отчуждению и разрыву отношений — отчасти потому, ч...

Цитаты Стива Джобса: правила жизни, успеха и творчества

Изображение
Раньше нас было четверо - я, Стив Джобс, Юваль Харари и Сид Майерс. Стив умер в 56 лет. В этом году ему исполнилось бы 70 лет. Он не умел предсказывать будущее, он его формулировал. Инженер, философ, гуру — он был человеком, который действовал, руководствуясь интуицией, дерзостью и честностью к себе. Он не боялся быть сложным, не боялся ошибаться, и уж точно не боялся «выпасть из обоймы». Этим он вдохновлял и продолжает вдохновлять меня. Эта подборка цитат — нерукотворный памятник человеку, который «встряхнул мир». Это инструкция для тех, кто решил не продавать газировку, а рискнул изменить что-то всерьёз. Она не для поклонения, а для пробуждения. Пусть эти слова помогут тем, кто делает свои, уникальные шаги в сторону бесконечного познания действительности. • Вы хотите провести остаток жизни, продавая газировку, или вы хотите получить шанс изменить мир? • Творчество — это соединение вещей. Когда вы спрашиваете творческих людей, как они что-то сделали, они чувствуют себя немного виноват...

Работа над ошибками "мягкой сингулярности" Сэма Альтмана

Изображение
  Пролог: между мечтой и реальностью В своей статье  «Мягкая сингулярность» в представлениях и мечтах  Сэм Альтман рисует будущее, в котором человечество, оседлав волну ИИ, ласково и нежно вплывает в эпоху изобилия. Текст читается как манифест новой эры — но слишком уж гладко, слишком бесконфликтно. Как если бы история технологий была линейным восхождением, а не зигзагом прорывов, кризисов и неожиданных поворотов. Несомнено, что человечество  стоит на пороге перемен. Но готовы ли люди признать, что за красивой метафорой «мягкой сингулярности» скрываются трещины? Что адаптация — это не данность, а борьба, и что «новый общественный договор» не возникнет сам собой, как побег полыни сквозь асфальт  Шоушенка ? 1. Миф о неизбежности: горизонт событий или мираж? «Наименее вероятная часть работы позади» — заявляет Альтман. Но так ли это?  Наука не движется по расписанию. GPT-4 — это не «горизонт событий», а лишь одна из вех. Где гарантии, что следующий шаг (A...

«Мягкая сингулярность» в представлениях и мечтах Сэма Альтмана

Изображение
Мы прошли горизонт событий; взлет начался. Человечество близко к созданию цифрового сверхразума, и, по крайней мере, пока это гораздо менее странно, чем должно быть. Роботы еще не ходят по улицам, и большинство из нас не общаются с ИИ целый день. Люди все еще умирают от болезней, мы все еще не можем легко отправиться в космос, и во вселенной есть много того, чего мы не понимаем. И все же, мы недавно создали системы, которые во многих отношениях умнее людей и способны значительно усилить результаты людей, использующих их. Наименее вероятная часть работы позади; научные идеи, которые привели нас к таким системам, как GPT-4 и o3, были получены с трудом, но они проведут нас очень далеко. ИИ внесет свой вклад в мир во многих отношениях, но прирост качества жизни от ИИ, способствующего более быстрому научному прогрессу и повышению производительности, будет огромным; будущее может быть намного лучше настоящего. Научный прогресс является важнейшим двигателем общего прогресса; невероятно волнит...

Иерархия разумных субъектов в наблюдаемой людьми Вселенной

 1. Введение Эта статья — дедуктивная: мы начнём с устройства всей галактики и шаг за шагом спустимся до человека, чтобы понять, как мы встроены в разумную иерархию. Но мы не строим нисходящую лестницу. Каждый субъект в этой системе живёт в своём пространственно-временном континууме и решает уникальные задачи. Однако эти задачи концептуально схожи: везде прослеживается стремление к интеграции, развитию и самопознанию. 2. Разумные субъекты и их иерархия 2.1. Галактика — базовая единица Вселенной Во Вселенной, которую мы можем наблюдать, галактики — это фундаментальные единицы структуры. Они состоят из звёзд, планет, газа, пыли и тёмной материи, объединённых гравитацией. В центре почти каждой галактики находится сверхмассивная чёрная дыра. В этой иерархии разумов галактика — это организм, где каждая звёздная система функционирует как клетка или орган. 2.2. Стрелец A* — мозг галактики Центром Млечного Пути является сверхмассивная чёрная дыра Стрелец A*. Она выполняет функцию управляющ...