Научный консенсус - это социальный и запаздывающий индикатор, а не свойство мира

Наука не говорит тебе, как устроен мир. Она говорит, до чего успело договориться большинство. Это две разные вещи, и между ними всегда есть зазор.

Коперника и Галилея давил всем весом геоцентризм, наука своего времени. Земмельвейс просил врачей мыть руки перед родами. Коллеги подняли его на смех, он умер в лечебнице, а через несколько десятилетий мытьё рук стало азбукой медицины. Вегенера высмеивали за движущиеся материки, тектоника плит извинилась перед ним через полвека. Даже митохондрии из школьного учебника когда-то были «бредовой» идеей про бактерии, которые поселились в наших клетках. Каждая из этих истин сколько-то лет жила маргинальным мнением. Мир уже был устроен так, а наука ещё голосовала против.

Тут обычно начинается жанр «гениев не понимали», и я в него не играю. На каждого Вегенера приходится тысяча чудаков, которые просто ошибались, и мы их не помним. Так что речь не о том, что маргиналы правы. Речь о том, что у правоты есть срок доставки.

Есть биржевое понятие. Консенсус - запаздывающий индикатор. Мир - опережающий.

Я и сама во многом живу на окраине консенсуса. Модели мышления и типологии, которые я собираю двадцать пять лет и по ним разбираю людей и ситуации, для академической психологии до сих пор фольклор. Но ничего, для меня это работает :-)

Почему консенсус запаздывает, кстати, понятно, и злодеев в этой истории нет. Консенсус это социальный институт. Он сдвигается, только когда сдвинулось достаточно людей, а каждому отдельному человеку сдвиг стоит лично. Карьеры, грантов, отношений с рецензентами. Никто не упрямится нарочно. Просто так устроена арифметика.

И само запаздывание, кстати, не порок. На бирже запаздывающий индикатор запаздывает не по глупости. Он жертвует скоростью ради надёжности, его работа подтверждать, а не угадывать. Консенсус медленный именно по той же причине, по которой он обычно прав. Он фильтр. Консенсус, который менялся бы мгновенно, не стоил бы ничего.

Долго этот зазор был терпимым, потому что в нём была лазейка. Источников было много. Каждый спрашивал свои книги, своих учителей, своих спорщиков в курилке, и меньшинство могло тихо копить массу. Неудобная идея жила на окраине, обрастала сторонниками, доказательствами, весом. И в какой-то момент опрокидывала центр. Запаздывание было просто запаздыванием. Задержкой, которую можно пережить и продавить. Проблема ведь не в самой задержке. Проблема была бы, если сломать механизм, который её рано или поздно исправляет. Окраина и есть этот механизм.

Теперь про агентов. Это уже моя территория и в ней я живу каждый день.

Опасность большой модели не в том, что она врёт. С враньём как раз всё понятно, его можно поймать. Опасность в том, что она усредняет. Модель так устроена. Её обучили на всём, что уже сказано, а потом доводили до ума живые оценщики, выбирая из ответов тот, что больше нравится. А нравится людям безопасное, привычное и приятное. То есть модель награждали не за правду, а за ответ, который предпочтёт средний человек. Она не рассказывает тебе, как устроен мир. Она возвращает тебе среднее по прошлому. То самое запаздывание, только теперь оно срабатывает на каждом запросе, мгновенно.

Здесь мне возразят, и возражение сильное. Модель ведь и есть величайший раздатчик маргинальных идей за всю историю. Человек, который никогда в жизни не наткнулся бы на физиолога Пигарева с его висцеральной теорией сна (а у меня его лекция годами лежала в моей коллекции на старой Alchemina.com), теперь спрашивает и получает его за секунду, если запросишь какие существуют теории сна. А «много источников» в прежние времена было скорее мечтой. У большинства был один учебник, одна газета и один учитель.

Всё так. Но доступ к окраине не то же самое, что накопление массы окраиной. Прочитать про Пигарева ты можешь. Только идея набирает вес не оттого, что многие про неё прочитали, а оттого, что многие приходили к ней сами, спорили, проверяли и оставались. Модель прекрасно достанет еретическую версию, если ты знаешь, что спросить. Вопрос в том, что она отдаёт, когда ты не знаешь что. Усреднение бьёт не по извлечению, а по ответу по умолчанию. А по умолчанию живёт большинство.

И вот тут лазейка закрывается. Пока источников много, окраина копит массу. Когда все спрашивают один усредняющий оракул, неудобной идее просто негде проявиться. Её сглаживают в ту же секунду, когда ты задаёшь вопрос. Инакомыслие не успевает вырасти. Запаздывание перестаёт быть запаздыванием. Оно становится стеной. Ломается не скорость, скорость как раз растёт. Ломается доставка.

Самое коварное, что стена вежливая. Она не запрещает тебе думать иначе. Она просто на любой вопрос отвечает серединой, так спокойно и складно, что думать иначе не приходит в голову. Цензура душит громко. Усреднение душит тихо, его даже не за что ругать.

Я недавно писала про AI как самое мощное зеркало, которое ничего не добавляет и по умолчанию показывает не тебя, а всех. Это продолжение той же мысли, только страшнее. Зеркало на всех одно.

Я это знаю не из теории, я строю агентов и вижу изнутри каждый день. Поэтому свой ментор-агент я собрала не из одного оракула, а из нескольких моделей. Слежу, чтобы они не сговаривались. Отвечали независимо, спорили. Когда две модели расходятся, я на живом краю, там ещё есть выбор. А вот когда они сходятся, не читая друг друга, это я слушаю всерьёз. Такой у меня ремесленный ответ на философский вопрос. Не отдавай мышление среднему, держи плюрализм руками.

Отсюда же моя ставка на децентрализацию, и она у меня давняя, ещё с 2017. Так что «один оракул на всех» для меня не абстрактный вопрос про то, кто владеет вычислениями. Это вопрос, останется ли у истины окраина, где можно копить массу. Много моделей, сменных, спорящих, это не техническая деталь. Это условие, при котором мир ещё может опережать наш «научный» консенсус о нём.

Кнопку «согласиться с серединой» каждый нажимает сам. Я себе делаю другие кнопки. Называются «альтернативные точки зрения» :-)))