Список когнитивных искажений хозяев искусственного интеллекта

Искажения, связанные с поведением и принятием решений

• Иллюзия контроля — тенденция людей верить, что они могут контролировать или, по крайней мере, влиять на результаты событий, на которые они на самом деле влиять не могут^[3].
• Иррациональное усиление (англ.)русск. — тенденция растущей привязанности к выбранному направлению действий, — тенденция принимать иррациональные решения, основанные на прошлых рациональных решениях, или оправдание уже совершённых действий. Проявляется, например, на аукционах, когда цена вещи завышается.
• Искажение в восприятии сделанного выбора — тенденция помнить свои выборы как более правильные, чем они были на самом деле.
• Эффект повального увлечения, конформизм — тенденция делать (или верить в) вещи, потому что много других людей делают это (или верят в это). Относится к групповому мышлению, стадному поведению и маниям.
• Недооценка бездействия — тенденция оценивать вредоносные действия как худшие и менее моральные, чем в равной степени преступное бездействие.
• Неприятие потери (англ.)русск. — отрицательная полезность, связываемая с потерей объекта, оказывается больше, чем полезность, связанная с приобретением его. Люди больше огорчаются от потери какой-то вещи, чем они радовались бы её находке.
• Отвращение к крайним решениям — тенденция избегать экстремальных решений, выбирая промежуточные.
• Отклонение в сторону результата — тенденция судить о решениях по их окончательным результатам, вместо того чтобы оценивать качество решений по обстоятельствам того момента времени, когда они были приняты («Победителей не судят»).
• Отклонение в сторону статуса кво — тенденция людей желать, чтобы вещи оставались приблизительно теми же самыми.
• Отрицание вероятности — тенденция полностью отвергать вероятностную проблематику при принятии решений в условиях неопределённости.
• Ошибка при планировании — тенденция недооценивать время выполнения задач, стоимость и длительность реализации проектов^[4]. Также известно как следствие закона Мёрфи: «Всякая работа требует больше времени, чем вы думаете».
• Ошибка, связанная с частными примерами (явление нерепрезентативной выборки) — игнорирование доступных статистических данных в пользу частных случаев.
• Переоценка воздействия — тенденция людей переоценивать длительность или интенсивность воздействия некого события на их будущие переживания.
• Переоценка скидок (англ.)русск. — тенденция людей тем больше предпочитать более близкие во времени выплаты относительно выплат в более отдаленном будущем, чем ближе обе выплаты к настоящему времени.
• Подчинение авторитету — склонность людей подчиняться авторитету, игнорируя свои собственные суждения о целесообразности действия. Смотрите также эксперимент Милгрэма.
• Потребность в завершении — потребность достигнуть завершения в важном вопросе, получить ответ и избежать чувства сомнений и неуверенности. Текущие обстоятельства (время или социальное давление) могут усилить этот источник ошибок. Стремление к завершенности, является одним из фундаментальных свойств гештальта, центрального понятия гештальтпсихологии, проявляющееся, в частности, в эффекте Зейгарник.
• Потребность в противоречии — более быстрое распространение более сенсационных, цепляющих за больные темы или возбуждающих дух противоречия сообщений в открытой печати.
• Предвзятость подтверждения — тенденция искать или интерпретировать информацию таким образом, чтобы подтвердить имевшиеся заранее концепции.
• Предпочтение нулевого риска (англ.)русск. — предпочтение уменьшить какой-то один маленький риск до нуля вместо того, чтобы значительно уменьшить другой, больший риск. Например, большинство людей предпочли бы уменьшить вероятность террористических актов до нуля вместо снижения аварийности на дорогах, даже если бы второй эффект давал бы больше сохранённых жизней^[5]. Другой распространённый пример — ятрофобия: многие люди боятся осложнений медицинских вмешательств больше, чем заболевания или смерти в результате естественных причин, независимо от данных статистики.
• Предпочтение целостных объектов — потребность закончить данную часть задачи. В основе искажения лежит характерная для психики тенденция к организации опыта в доступное понимаемое целое, гештальт, находящаяся в центре вниманиягештальтпсихологии. Ярко проявляется в том, что людям свойственно есть больше, когда предлагаются большие порции еды, чем брать много маленьких порций.
• «Проклятие знания» — затруднения у информированных людей при попытке рассматривать какую-либо проблему с точки зрения людей менее информированных.
• Профессиональная деформация — психологическая дезориентация личности в ходе профессиональной деятельности. Тенденция смотреть на вещи согласно правилам, общепринятым для своей профессии, отбрасывая более общую точку зрения.
• Рационализация после покупки — тенденция убеждать себя с помощью рациональных аргументов, что покупка стоила своих денег.
• Селективное восприятие — тенденция, состоящая в том, что ожидания влияют на восприятие.
• Систематическая ошибка различения — тенденция воспринимать два варианта как более различные, когда они реализуются одновременно, чем когда они реализуются по отдельности.
• Систематическая ошибка согласованности (Congruence bias) — тенденция проверять гипотезы исключительно путём прямого тестирования, пренебрегая косвенным или отвергая его.
• Слепое пятно в отношении когнитивных искажений (англ.)русск. — тенденция не компенсировать свои собственные когнитивные искажения.
• Сопротивление, «дух противоречия» — потребность делать нечто противоположное тому, что некто побуждает вас делать, из-за потребности противостоять кажущимся попыткам ограничить вашу свободу выбора.
• Уклон в сторону поиска информации — тенденция искать информацию даже тогда, когда она не влияет на действия.
• Эффект фон Ресторфф (эффект изоляции) — склонность людей лучше запоминать отдельно стоящие выдающиеся объекты.
• Эффект «меньше — лучше» — предпочтение менее ценной вещи в отсутствие возможности сравнения.
• Эффект вклада — тот факт, что люди часто хотят продать некий объект гораздо дороже, чем они готовы заплатить, чтобы приобрести его.
• Эффект знакомства с объектом — тенденция людей выражать необоснованную симпатию к некому объекту только потому, что они знакомы с ним.
• Эффект контраста — усиление или преуменьшение значения одного измерения, когда оно сравнивается с недавно наблюдавшимся контрастным объектом. Например, человек радуется тому, что купил недорого какую-то вещь в магазине, но перестаёт радоваться после того, как узнаёт, что в соседнем магазине эта же вещь стоит в 2 раза дешевле.
• Эффект морального доверия — человек, относительно которого известно, что у него нет предубеждений, имеет в будущем большие шансы проявить предубеждения. Иначе говоря, если все (в том числе он сам) считают человека безгрешным, то у него возникает иллюзия, что его любое действие также будет безгрешным.
• Эффект псевдоуверенности — тенденция принимать решения направленные на то чтобы избежать риска, если ожидаемый результат позитивный, однако принимать рискованные решения, чтобы избежать негативного исхода.
• Эффект узких рамок — использование слишком узкого подхода для описания ситуации или проблемы. Эффект воздействия рамок — различные выводы в зависимости от того, как данные представлены.
• Эффект фокусировки — ошибка в предсказаниях, возникающая, когда люди уделяют слишком много внимания какому-то одному аспекту явления; вызывает ошибки в правильном предсказании полезности будущего исхода. Например, концентрация внимания на том, кто виноват в возможной ядерной войне, отвлекает внимание от того, что пострадают в ней все.
• Эффект фрейминга — наличие зависимости выбора варианта решения от формы представления исходной информации. Так, изменение вида формулировки вопроса, с семантически идентичным содержанием, может вызывать изменение процента положительных (отрицательных) ответов с 20% до 80% и более ^[6]. Существенную часть формы представления информации может образовывать отбор слов. Для любой формулировки системы цен со скидками, для некоторых категорий покупателей, существует финансово эквивалентное представление цен с наценками, для дополнительных категорий покупателей, однако ее использование может привести к значительному падению выручки и потому не применяется.
• Эффект причастности — склонность воспринимать объект как более ценный (значимый) в случае причастности к его созданию.

Искажения, связанные с вероятностями и стереотипами

Многие из этих когнитивных искажений часто исследуются в связи с тем, как они влияют на бизнес и как они влияют на экспериментальные исследования.

• Иллюзия кластеризации — тенденция видеть паттерны там, где их на самом деле нет.
• Иллюзия корреляции — ошибочная вера во взаимосвязь определённых действий и результатов.
• Искажение, связанное с селекцией — искажение в экспериментальных данных, которое связано с тем, каким образом данные были собраны.
• Каскад доступной информации — самоусиливающийся процесс, в ходе которого коллективная вера во что-то становится всё более убедительной за счёт нарастающего повторения в публичном дискурсе («повторяйте нечто достаточно долго и это станет правдой»).
• Недооценка возвращения величины к среднему значению — тенденция ожидать, что экстраординарное поведение системы продолжится.
• Отклонение в сторону позитивного исхода — тенденция переоценивать при предсказании вероятность хороших вещей.
• Отклонение, связанное с оптимизмом — тенденция систематически переоценивать и быть сверхоптимистичным относительно шансов успеха планируемых действий.
• Отклонение, связанное со вниманием — пренебрежение релевантной информацией при суждении о корреляции или ассоциации.
• Ошибка игрока — тенденция полагать, что отдельные случайные события испытывают влияние предыдущих случайных событий.
• Ошибочность в духе меткого стрелка из Техаса — выбор или подстройка гипотезы после того, как данные собраны, что делает невозможным проверить гипотезу честно.
• Ошибка обоснования оценки (англ.)русск. — игнорирование или недостаточное использование основной априорной информации под влиянием специфики рассматриваемого случая^[7].
• Ошибка полноты распределения — тенденция верить, что чем ближе среднее значение к заданному, тем уже распределение набора данных.
• Ошибка совпадений — тенденция полагать, что более специальные случаи являются тем более вероятными, чем более часто они происходят.
• Ошибочность, связанная с играми — анализ проблем, связанных с выпадением шансов, с помощью узкого набора игр.
• Приукрашивание прошлого — тенденция оценивать прошлые события более позитивно, чем они воспринимались в тот момент, когда на самом деле происходили.
• Ошибка выжившего — склонность недооценивать недоступные прямому наблюдению данные по группе «погибших».
• Стереотипизация — ожидание от члена группы определённых характеристик без знания какой-либо дополнительной информации о его индивидуальности.
• Субъективное придание значимости — восприятие чего-либо как истинного, если верования субъекта требуют, чтобы это было истинным. Сюда также входит восприятие совпадений как взаимосвязи.
• Функциональная закреплённость — использование предмета в каком-то одном качестве препятствует последующему использованию его в ином качестве в этой же текущей ситуации.
• Хоторнский эффект — феномен, состоящий в том, что люди, наблюдаемые в ходе исследования, временно изменяют своё поведение или производительность. Пример: повышение производительности труда на заводе, когда приезжает комиссия по исследованию производительности труда на этом заводе.
• Эвристика доступности — оценка как более вероятного того, что более доступно в памяти, то есть уклонение в сторону более яркого, необычного или эмоционально заряженного.
• Эффект воспоминаний — эффект, состоящий в том, что люди помнят больше событий из своей молодости, чем из других жизненных периодов.
• «Эффект йо-йо» — быстрое увеличение веса после кратковременной «голодной» диеты, позволившей значительно похудеть.
• Эффект знания задним числом — иногда называется «Я так и знал, что так будет» (как вариант — «А ведь я говорила…») — склонность воспринимать прошлые события предсказуемыми.
• Эффект недавнего (аберрация близости) — тенденция оценивать значение недавних событий выше, чем более ранних событий.
• Эффект неоднозначности — избегание вариантов действий, в которых отсутствующая информация делает вероятность «неизвестной».
• Эффект ожидания наблюдателя — этот эффект возникает, когда исследователь ожидает определённого результата и бессознательно манипулирует ходом эксперимента или неправильно интерпретирует данные, чтобы обнаружить этот результат (см. также эффект ожиданий субъекта).
• Эффект первенства — тенденция переоценивать изначальные события более, чем последующие события.
• Эффект привязки — особенность принятия численных решений человеком, вызывающая иррациональные смещения ответов в сторону числа, попавшего в сознание перед принятием решения.
• Эффект сверхуверенности — тенденция переоценивать свои собственные способности.
• Эффект субаддитивности — тенденция оценивать вероятность целого в качестве меньшей, чем вероятности составляющих его частей.
• Эффект телескопа — этот эффект состоит в том, что недавние события кажутся более отдалёнными, а более дальние события — более близкими во времени.

Социально обусловленные искажения

Большинство из этих искажений связаны с ошибками атрибуции.

• Иллюзия асимметричной проницательности — человеку кажется, что его знание о своих близких превосходит их знание о нём.
• Иллюзия прозрачности — люди переоценивают способность других понимать их, и они также переоценивают свою способность понимать других.^[8]
• Искажение в оценке гомогенности членов другой группы — люди воспринимают членов своей группы как относительно более разнообразных, чем члены других групп.
• Искажение в оценке роли субъекта действия — тенденция при объяснении поведения других людей чрезмерно подчёркивать влияние их профессиональных качеств и недооценивать влияние ситуации (см. также фундаментальная ошибка атрибуции). Однако парной к этому искажению является противоположная тенденция при оценке собственных поступков, при которой люди переоценивают влияния на них ситуации и недооценивают влияние своих собственных качеств.
• Искажение в пользу своей группы — тенденция людей отдавать предпочтение тем, кого они считают членом своей собственной группы.
• Искажение в связи с проекцией — тенденция бессознательно полагать, что другие люди разделяют те же, что и субъект, мысли, верования, ценности и позиции.
• Искажение в связи с формулировкой закона — эта форма культурного искажения связана с тем, что запись некого закона в виде математической формулы создаёт иллюзию его реального существования.
• Искажение в собственную пользу, Искажение самовозвеличения — тенденция признавать большую ответственность за успехи, чем за поражения. Это может проявляться также как тенденция людей преподносить двусмысленную информацию благоприятным для себя образом (См. также Искажение в пользу своей группы.)
• Искажение при описании черт характера — тенденция людей воспринимать себя как относительно изменчивых в отношении личных качеств, поведения и настроения, одновременно воспринимая других как гораздо более предсказуемых.
• Оправдание системы — тенденция защищать и поддерживать статус кво, то есть тенденция предпочитать существующие социальное, политическое и экономическое устройство и отрицать перемены даже ценой жертвования индивидуальными и коллективными интересами.
• Самосбывающееся пророчество — тенденция вовлекаться в те виды деятельности, которые приведут к результатам, которые (сознательно или нет) подтвердят наши верования.^[9]
• Стадный инстинкт — распространённая тенденция принимать мнения и следовать за поведением большинства, чтобы чувствовать себя в безопасности и избегать конфликтов (см. также Эффект присоединения к большинству).
• Феномен «Дверь в лицо» — люди склонны идти на уступку и соглашаться с малопривлекательным предложением в том случае, если оно им предлагается сразу после их отказа от другой более обременительной просьбы.
• Феномен «Нога в двери» — после выполнения изначально незначительной просьбы, люди склонны соглашаться исполнять другие более обременительные требования.
• Феномен «справедливого мира» — тенденция людей верить, что мир «справедлив» и, следовательно, люди получают «то, что они заслуживают».^[10]
• Фундаментальная ошибка атрибуции — тенденция людей объяснять поведение других людей их личностными качествами, недооценивая ситуационные факторы, и в то же время переоценивать роль и силу ситуационных влияний на собственное поведение, недооценивая личностный аспект (см. также Искажение в оценке роли субъекта действия, ошибку групповой атрибуции, эффект позитивности и эффект негативности.)^[11]
• Эффект Даннинга-Крюгера — когда люди некомпетентны в выбранных ими стратегиях достижения успеха, они испытывают двойной удар: они не только приходят к ошибочным заключениям и делают неудачные выборы, но также их некомпетентность лишает их возможности осознать это. Вместо этого они остаются с ошибочным впечатлением, что всё в порядке. (см. также эффект Лейк-Уобегон и эффект сверхуверенности.)^[12]
• Эффект леди Макбет (также называется «Эффектом Понтия Пилата») — воображаемая связь между моральной и физической чистотой, побуждающая людей, испытывающих чувство стыда, вымыться, «смыв» с себя воображаемую грязь.^[13]
• Эффект Форера (а также эффект Барнума) — тенденция высоко оценивать точность описаний своей личности, как если бы они были нарочно выкованы специально для них, но которые в действительности являются достаточно общими, чтобы их можно было приложить к очень большому числу людей. Например, гороскопы.^[14]
• эффект Лейк-Уобегон — человеческая тенденция распространять льстивые верования о себе и считать себя выше среднего. (см. также хуже-чем-в-среднем эффект и эффект сверхуверенности).
• Эффект ореола — имеет место при восприятии одного человека другим и состоит в том, что позитивные и негативные черты человека «перетекают», с точки зрения воспринимающего, из одной области личности воспринимаемого человека в другую. (см. также стереотип физической привлекательности).^[15]
• Эффект первого впечатления — влияние мнения о человеке, которое сформировалось у субъекта в первые минуты при первой встрече, на дальнейшую оценку деятельности и личности этого человека. Причисляют также к ряду ошибок, часто совершаемых исследователями при использовании метода наблюдения, наряду с эффектом ореола и другими.^[16]
• Эффект победившей стороны — склонность избирателей изменять своё мнение в пользу победившей на выборах стороны^[17].
• Эффект фальшивого консенсуса — тенденция людей переоценивать ту степень, в которой другие люди соглашаются с ними.^[18]

• Эффект эгоцентричности — он имеет место, когда люди считают себя более ответственными за результат неких коллективных действий, чем это находит внешний наблюдатель.

Искажения, связанные с ошибками памяти

• Благодетель — восприятие себя как ответственного за желательные исходы, но не ответственного за нежелательные. (Термин предложен Гринвальдом (1980), см. также Искажение самовозвеличения.)
• Кажущееся постоянство — неправильное воспоминание чьих-либо прошлых позиций и поведения как напоминающих теперешние позиции и поведение.
• Криптомнезия — форма неправильного установления авторства, когда воспоминание ошибочно принимается за результат воображения. Например, человеку может казаться, что он сам сочинил анекдот, в то время как в действительности он его уже слышал и просто вспомнил.^[19]
• Эгоцентрическое искажение — воспоминание прошлого в самовозвеличивающей манере, например, воспоминание экзаменационных оценок лучшими, чем они были, а пойманной рыбы — большей, чем она была.
• Ложная память — нарушения памяти, выражающиеся в ложных воспоминаниях.^[20]
• Ретроспективное искажение — фильтрация памяти о прошлых событиях сквозь теперешнее знание. При этом события выглядят более предсказуемыми, чем они были в действительности. Известно также как 'эффект Я-всё-это-знал'.
• Интроекция — форма неправильного установления авторства, когда идеи, на которые намекнул спрашивающий, неверно воспринимаются как вспомненные.
• Детская амнезия — очень слабая способность взрослых людей воспроизводить воспоминания периода жизни до 2-4-х лет^[21], может быть объяснена незрелостью мозговых структур — таких как гиппокамп и амигдалы, — отвечающих за кодирование и сохранение воспоминаний и достаточно развивающихся обыкновенно к 2-м годам^[22][23].
• Искажение уже-определённого-места (placement bias) — тенденция запоминать себя самого как показавшего лучшие, чем у других индивидов, результаты в тех заданиях, наши способности в которых мы оцениваем как «выше среднего»; также и тенденция запоминать себя самого как показавшего худшие, чем у других индивидов, результаты в тех заданиях, наши способности в которых мы оцениваем как «ниже среднего».
• Эффект генерации — информация запоминается лучше, если она сгенерирована самим индивидом, а не прочитана или получена каким-либо другим способом извне.^[24]
• Эффект уровня обработки — описывает вызов и воспроизведение воспоминаний о каком-либо стимуле как функцию глубины ментальной обработки: более глубокий анализ порождает более надежный и детальный и дольше существующий след в памяти, чем поверхностный анализ^[25].
• Эффект дезинформации — происходит, когда воспроизведение эпизодических воспоминаний становится менее точным из-за полученной post factum информации^[26]. Является классическим примером ретроактивной интерференции, происходящей, когда информация, полученная позже, интерферирует со способностью сохранять ранее закодированную информацию^[27].