Когда в конце 2022 года ChatGPT ворвался в повседневную жизнь миллионов людей, мир затаил дыхание. Казалось, еще немного — и искусственный интеллект решит все проблемы: от диагностики рака до написания бестселлеров. Но прошло чуть больше года, и эйфория сменилась тревожным вопросом.
Доверие к ИИ, которое так активно пытаются сформировать технологические гиганты, оказалось под угрозой. Почему? Ответ на этот вопрос ищет Кэмпбелл Браун — человек, который знает о кризисе информации больше, чем кто-либо другой.
Как теряют доверие к ИИ
Кэмпбелл Браун посвятила свою карьеру борьбе за достоверность. Сначала — как известный тележурналист, расследующий сложные темы. Затем — как первый и единственный руководитель отдела новостей в «Книга лиц», где она пыталась остановить лавину фейков. Сегодня, наблюдая за тем, как генеративные нейросети меняют способы потребления контента, она видит пугающий дежавю. Индустрия повторяет те же ошибки, что и соцсети десять лет назад. Только ставки теперь выше.
«Мои дети станут глупыми, если мы не исправим это прямо сейчас», — заявила Браун на недавнем мероприятии StrictlyVC в Сан-Франциско, где она представила свой новый проект — Forum AI. Компания, основанная 17 месяцев назад в Нью-Йорке, родилась из личного шока.
Работая в Meta (На территории России компания Meta и её продукты признаны экстремистскими, их деятельность запрещена.) в момент запуска ChatGPT, Браун осознала: вся мировая информация скоро будет проходить через узкое горлышко больших языковых моделей. И это горлышко, увы, очень кривое.
Доверие к ИИ невозможно построить на песке. Если модель не понимает контекста геополитики или психического здоровья, она не просто ошибается — она разрушает способность человека мыслить.
Кэмпбелл Браун
Эксперты не верят в объективность нейросетей
В отличие от большинства стартапов Кремниевой долины, Forum AI не гонится за скоростью вычислений или количеством параметров. Браун предлагает измерять качество моделей по-другому. Ее команда оценивает, насколько хорошо базовые модели (такие как GPT-4, Gemini или Claude) справляются с тем, что она называет «важными темами»:
- Геополитика и международные конфликты.
- Психическое здоровье и психотерапия.
- Финансы и кредитование.
- Найм сотрудников и HR-решения.
Почему именно эти сферы?
Потому что здесь нет однозначных ответов. Здесь царят неоднозначность, тонкость и сложность. И именно здесь современные модели проваливаются чаще всего. Браун приводит шокирующий пример: модель Gemini черпала информацию с сайтов Коммунистической партии Китая для статей, которые не имели к Китаю никакого отношения. Это не просто ошибка — это системная проблема источников.
Новый подход к доверию к ИИ
Методология Forum AI радикально отличается от типичных бенчмарков вроде MMLU или HellaSwag. Вместо абстрактных тестов Браун привлекла реальных мировых экспертов:
- Историк и геополитик Найл Фергюсон.
- Журналист Фарид Закария.
- Бывший госсекретарь США Тони Блинкен.
- Бывший спикер Палаты представителей Кевин Маккарти.
- Экс-глава кибербезопасности при Обаме Энн Нойбергер.
Эти люди разрабатывают эталонные показатели (бенчмарки) для ИИ. Затем специально обученные «судьи» — тоже на основе ИИ, но калиброванные — оценивают ответы моделей. Цель амбициозная: достичь 90-процентного консенсуса между искусственными судьями и живыми экспертами. И, по словам Браун, в некоторых темах эта цель уже достигнута.
Однако на пути к настоящему доверию к ИИ стоит несколько препятствий. Браун выделяет три главных:
- Политический перекос моделей.
Почти все популярные модели имеют левую политическую направленность. Это не конспирология, а результат анализа Forum AI. Модели избегают неудобных вопросов, игнорируют консервативные точки зрения и подменяют аргументы эмоциональными штампами. - Отсутствие контекста.
Нейросеть может блестяще решить задачу по математике, но при этом не понимать, почему в стране нельзя шутить про религию. Контекст — то, что требует живого эксперта — выпадает из приоритетов разработчиков. - Иллюзия фактчекинга.
Браун болезненно знает об этом: она создала программу проверки фактов в Facebook, которой больше не существует. Оптимизация под вовлеченность (likes, комментарии, репосты) уничтожила качество. Сегодня ИИ-компании повторяют ту же ошибку, оптимизируя модели под программирование и математику, а не под правду.
Бизнес — неожиданный союзник
Казалось бы, производители ИИ заинтересованы в том, чтобы давать пользователю то, что он хочет слышать. Так выше удержание, больше подписок, выше капитализация. Но Браун видит иной путь. Доверие может стать коммерчески выгодным там, где на кону реальные деньги и ответственность.
Примеры из реальной жизни:
- Банки, использующие ИИ для одобрения кредитов.
- Страховые компании, рассчитывающие риски.
- HR-платформы, автоматически отсеивающие резюме.
Эти игроки не хотят креативных ответов. Они хотят предсказуемой точности. Они боятся исков, штрафов и репутационных потерь. Именно на этот корпоративный спрос делает ставку Forum AI. Однако проблема в том, что текущий рынок довольствуется формальными проверками и стандартизированными тестами, которые Браун называет смехотворными.
Она приводит конкретный пример: в Нью-Йорке приняли первый закон о борьбе с предвзятостью при приеме на работу, требующий ИИ-аудита.
И что же?
Финансовый контролер штата обнаружил, что более чем в половине случаев нарушения остались незамеченными. Потому что формальный аудит не проверяет пограничные случаи — те самые сложные ситуации, о которых разработчики даже не задумываются.
Где деньги, а где доверие
Прошлой осенью Forum AI привлек $3 млн инвестиций под руководством Лерера Хиппо. Сумма для мира ИИ-стартапов скромная, но Браун не спешит. Она знает: нельзя купить доверие, его можно только заслужить тысячами итераций.
Разрыв между риторикой Кремниевой долины и реальностью обычных пользователей колоссален.
- Топ-менеджеры говорят: «ИИ изменит мир, вылечит рак, лишит всех работы».
- Обычный человек видит: чат-бот путает даты, выдумывает факты, дает опасные советы по здоровью и не может объяснить, почему одно решение лучше другого.
В Кремниевой долине ведутся разговоры об одном, а среди потребителей — о совершенно другом. Доверие к ИИ сегодня находится на рекордно низком уровне. И этот скептицизм она считает абсолютно оправданным.
резюмирует Браун.
Что дальше? Два пути развития
Кэмпбелл Браун видит перед индустрией две дороги:
- Путь угождения — давать пользователям то, что они хотят. Подтверждать их предубеждения, развлекать, не спорить. Это путь социальных сетей, который уже привел к тотальному недоверию и поляризации.
- Путь истины — давать людям то, что реально, честно и правдиво. Даже если это неприятно, даже если пользователь уйдет к конкуренту.
Она признает: второй путь звучит наивно. Особенно в мире, где капитализм диктует рост любой ценой. Но у нее есть аргумент, который сложно опровергнуть. Компании, которые будут использовать ИИ для принятия судьбоносных решений (кредиты, страховка, судебные иски), вынуждены выбирать второй путь. Иначе их просто разорят иски.
Почему это важно лично для вас
Читатель, который дочитал до этого места, наверняка пользуется ChatGPT или его аналогами хотя бы раз в неделю. Задайте себе простой вопрос: доверяете ли вы ответу, который дает нейросеть про политику какой-то страны? Про способы лечения депрессии? Про то, стоит ли вам брать ипотеку?
Скорее всего, нет. И ваше чутье не обманывает вас. Доверие к ИИ сегодня — это не техническая проблема. Это проблема человеческих ценностей, экспертизы и честности разработчиков. Кэмпбелл Браун предлагает не ждать, пока кто-то исправит ситуацию. Она уже создала Forum AI, чтобы тестировать модели на прочность с помощью лучших умов планеты.
Вопрос в другом. Услышат ли ее гиганты вроде Google, OpenAI и Meta? Или они повторят судьбу Facebook, который потерпел неудачу во многих начинаниях, по собственному признанию их бывшего топ-менеджера? (Facebook, Meta: иностранный владелец ресурса нарушает закон РФ)
Время покажет. Но одно ясно уже сейчас: пассивное потребление информации из ИИ без критического мышления — это путь в пропасть.
Автор: Редакция блога (по материалам TechCrunch и выступления Кэмпбелл Браун на StrictlyVC). Дата публикации: 13 мая 2026г.
