Проблема апельсина

Десять лет назад инвестор сказал мне, что у меня в голове каша. Он был прав, и мне понадобилось десять лет и ящик апельсинов, чтобы понять, что это была за каша.

Шкала там, где её не было

Апельсины не мои — я услышал этот кейс на семинаре от человека, который делал его в Microsoft. У производителя фруктов люди стояли над упаковочной линией и принимали решение по каждому плоду: зелёные едут в Сиэтл, оранжевые остаются во Флориде. Два состояния. Это было всё разрешение системы, потому что таково разрешение человеческого глаза, который смотрит на апельсины с шести утра.

На линию поставили модель компьютерного зрения. Она считывала поверхность плода и выдавала число: сколько дней осталось до порчи. Не два ведра — шкала. А шкала — это объект другого рода, чем ведро. Шкалу можно заложить в логистический расчёт. По ней можно маршрутизировать, устанавливать цену, принимать решения.

Меня поразила не модель. Меня поразило то, что в этой компании никто не просил AI. У них была проблема потерь при перевозке, и потери возникали из-за измерения, которого не существовало. Технология имела значение только потому, что она дала недостающее число.

KPI, который не работает

Я упёрся в ту же стену с другой стороны, в масштабе целого государства.

Часть моей работы как CIO — Kyrgyz Single Window — это AI-направление национальных таможенных систем. В какой-то момент нам пришлось ответить на разумно звучащий вопрос: какие у наших AI-сервисов KPI?

Каждый интуитивный ответ неверен, и неверен поучительным образом. Число развёрнутых AI-систем — получаете системы, которыми никто не пользуется. Доля процессов, затронутых AI, — получаете AI, встроенный в процессы, которые и так работали нормально. Процент внедрения — получаете театр внедрения. Все эти метрики измеряют распространение технологии, а распространение технологии никому не приносит пользы.

Полезный вопрос оказался гораздо меньше и гораздо труднее: какая конкретная, названная, дорогая задача подешевела?

Я нашёл свой ответ в разговоре, а не в плановом документе. Сотрудник Министерства экономики описал задачу, которая съедала часы его недели и часы недель его коллег. Он не питчил проект — он жаловался. Из одной этой жалобы вырос ai.trade.kg — рабочий инструмент, который убрал эту конкретную задачу.

Вот KPI, который можно защитить: часы на названном процессе, до и после. И — не случайно — это единственный тип AI-проекта, который, как я видел, переживает контакт с организацией.

Что выпадает, когда строишь под одну задачу

А вот часть, которую я не ожидал.

Когда вы строите AI под названную задачу внутри регулируемой организации — таможенной системы, юридической фирмы, клиники, — ограничения перестают быть препятствиями и становятся архитектурой. Данные не могут покинуть контур — значит, модель работает на их железе. Ответ должен быть проверяемым — значит, каждое утверждение ссылается на фрагмент документа, из которого оно взято. Никто не будет действовать по выводу машины без посредника — значит, оператор подтверждает всё выше порога, и этот порог принадлежит клиенту, а не мне.

Стройте так какое-то время и посмотрите, что система накопила сама по себе: запись каждого решения и правила, которое его породило, лог того, кто и когда что подтвердил, точные источники за каждым ответом, зафиксированные так, что переживают удаление исходного документа.

Это аудиторский след. Никто его не просил. Это побочный продукт того, что система делает свою работу, — потому что система не может делать свою работу, не оставляя следа.

Тем временем над этим слоем формируется целый рынок: реестры AI, контрольные плоскости, сертификации гарантий, пакеты доказательств. Реальные продукты, решающие реальную проблему, — предприятия разворачивают агентов, которых никто не отслеживает. Но посмотрите, что им приходится делать. Они сидят поверх систем, которые никогда не проектировались подотчётными, и собирают подотчётность постфактум, вручную, снаружи.

Я начал называть альтернативу гарантией через конструкцию — в противовес гарантии через аттестацию. Не слой управления, добавленный к продукту. Продукт, чья архитектура не может работать, не производя доказательства. Это различие важнее всего именно там, где его труднее всего подделать: организация из трёхсот человек никогда не наймёт сертификационный орган, но она с радостью примет аудиторский след, который пишется сам.

Та же ошибка в собственном доме

Потом я посмотрел на собственный сайт.

Восемь пунктов в навигации. Главная страница, которая говорила, что я исследую, как сочетаются LLM и интерфейсы. Суверенная AI-платформа для юридических фирм в одной сетке с маркетплейсом б/у снаряжения и пиксельным roguelite. Страница услуг с почасовой оплатой, которая сообщает каждому серьёзному покупателю, что перед ним пара рук.

Это был тот же KPI процента внедрения, применённый к карьере. Много поверхности, ни одной названной задачи. Я делал с собой ровно то, от чего предостерегаю клиентов.

Есть фраза, к которой я постоянно возвращаюсь, и она вовсе не из технологий — она из старого рекламного принципа: нужно довести до совершенства каждую деталь и ограничить число деталей. Вторая часть — трудная. Добавлять приятно. Ясность даёт именно вычитание.

А ясность — это весь коммерческий механизм. Запутанный ум говорит «нет». Не «может быть» — именно «нет». Если человек напротив не может пересказать, чем вы занимаетесь, он это не купит, сколько бы это ни стоило и как бы хорошо это ни было сделано.

Предложение, сформулированное один раз

Итак: одно предложение, и всё остальное — на службе у него.

Я строю AI-системы для организаций, чьи данные не могут покинуть контур.

Юридические фирмы, клиники, таможенные органы, family offices — команды, которые не могут вставить свою работу в облачный чат-бот. Работа начинается с тридцати минут о том, что реально съедает неделю вашей команды, и один законный исход этого разговора — пока это не строить, письменно, с причинами.

Под этим — три слоя, которые я намеренно разделяю, потому что они отвечают на разные вопросы:

• Что я продаю — это решение. Не технологию, не программу трансформации. Названную задачу, убранную с дороги.
• Как это упаковано — это удобство. Готовые системы, работающие в вашем собственном контуре, вместо найма команды, которая будет их строить.
• Почему это я — это опыт: то, каково это на ощупь — без жаргона, без театра, рабочий прототип вместо презентации и прямой ответ, когда ответ — «нет».

Апельсины, министерство и моя собственная главная страница — один и тот же урок в трёх масштабах. AI — это не то, что внедряют. Это то, на что указывают — на одну дорогую проблему, достаточно точно, чтобы потом можно было сказать, сработало это или нет.

Всё остальное — просто поверхность.