Глава 25 — Мы чуть не построили цифровой концлагерь

СОБЛАЗН ВИДЕТЬ ВСЁ

Эту главу мне хотелось бы вычеркнуть из истории.

Потому что здесь проблема была не в ИИ.

Проблема была во мне.

Когда собственник впервые получает возможность видеть почти всё, возникает очень опасное чувство: наконец-то я могу навести порядок.

Каждый звонок.

Каждое опоздание.

Каждая просроченная задача.

Каждый неверный ответ клиенту.

Каждое отклонение от регламента.

Каждый час активности.

Каждое сообщение, если дать системе доступ.

Всё можно измерить.

Всё можно сравнить.

Всё можно превратить в рейтинг.

Это выглядело как мечта управленца.

На практике мы чуть не превратили компанию в место, где каждый боялся ошибиться.

ПЕРВАЯ ВЕРСИЯ «ИДЕАЛЬНОЙ ДИСЦИПЛИНЫ»

Мы сделали рейтинг соблюдения процессов.

Кто вовремя отвечает.

Кто закрывает задачи.

Кто следует скрипту.

Кто правильно заполняет CRM.

Кто опаздывает.

Кто чаще остальных отклоняется от стандарта.

Сначала всё выглядело прекрасно.

Показатели дисциплины выросли.

CRM стала чище.

Просрочек стало меньше.

Я был доволен.

А потом один из сильнейших руководителей сказал мне:

— Люди начали работать на Оракула.

— В смысле?

— Они думают не о клиенте. Они думают, чтобы система не подсветила красным.

Вот тогда стало не смешно.

ЛЮДИ НАУЧИЛИСЬ БЫТЬ ИДЕАЛЬНЫМИ В ЦИФРАХ

Если метрика становится наказанием, человек начинает оптимизировать метрику.

Не обязательно результат.

Менеджер делал формальное касание, чтобы задача не стала просроченной.

Сотрудник ставил статус, который нравился системе.

Руководитель избегал эксперимента, потому что эксперимент мог ухудшить показатели.

Люди меньше спорили.

Меньше рисковали.

Меньше проявляли инициативу.

Зато дашборд выглядел всё лучше.

Можно построить компанию, в которой никто не нарушает правила. А потом обнаружить, что в ней никто уже не думает.

КОНТРОЛЬ ИЛИ ПОМОЩЬ?

Мы вернулись к вопросу, который уже возникал с сотрудниками: зачем Оракул вообще смотрит на эту информацию?

Чтобы наказать?

Чтобы помочь?

Чтобы защитить клиента?

Чтобы увидеть системную проблему?

Чтобы создать рейтинг ради рейтинга?

Оказалось, что одна и та же технология может поддерживать две совершенно разные культуры.

В одной компании ИИ превращается в начальника с тысячей глаз.

В другой — в систему раннего предупреждения и поддержки.

Технология не создаёт культуру. Она усиливает культуру, которая уже есть.

Если собственник не доверяет людям, Оракул даст ему инструменты не доверять им в тысячу раз эффективнее.

Если компания умеет учиться на ошибках, он даст ей возможность учиться быстрее.

МЫ УБРАЛИ ЧАСТЬ ТОГО, ЧТО УЖЕ УМЕЛИ

Это был странный этап развития.

Обычно технологии двигаются вперёд добавлением функций.

Мы начали становиться умнее, удаляя возможности.

Убрали часть персональных рейтингов.

Ограничили доступ к некоторым данным.

Разделили контроль процесса и оценку человека.

Перестали эскалировать каждое нарушение вверх.

Добавили правило: сначала помощь, потом контроль.

Добавили правило: единичная ошибка не является характеристикой сотрудника.

Добавили право руководителя увидеть контекст перед выводом.

Добавили зоны, куда Оракул просто не имел доступа.

Не всё, что можно собрать, нужно собирать. Не всё, что можно анализировать, нужно анализировать. Не всё, что можно показать собственнику, собственнику нужно видеть.

ДОБРЫЙ СТУКАЧ ИЛИ ЦИФРОВОЙ НАДЗИРАТЕЛЬ

Тогда выражение «добрый стукач» приобрело второй смысл.

Добрый — не потому, что он мягкий.

Он может быть очень неприятным.

Он может показать, что мы теряем клиентов.

Что руководитель системно не выполняет договорённости.

Что процесс нарушается.

Что сотрудник не справляется.

Но цель сигнала должна быть понятна: сохранить результат, помочь исправить проблему, защитить компанию и клиента.

Если цель — просто знать как можно больше о человеке, это уже не Оракул.

Граница между «добрым стукачом» и цифровым надзирателем проходит не по технологии. Она проходит по цели, полномочиям и правилам использования данных.

ТАК ПОЯВИЛАСЬ ИДЕЯ КОНСТИТУЦИИ

После этой истории стало ясно: списка функций недостаточно.

Нельзя просто написать, что Оракул умеет.

Нужно написать, чего он не имеет права делать.

Кому принадлежат данные.

Кто что может видеть.

Когда он обязан объяснить вывод.

Когда должен обратиться к человеку.

Что нельзя использовать для скрытого давления на сотрудников.

Как исправляются ошибки.

Где заканчивается контроль компании и начинается личное пространство человека.

Мы поняли, что строим слишком сильную систему, чтобы управлять ею на уровне «ну, посмотрим по ситуации».

У любой власти должны быть ограничения. Даже если эта власть состоит из алгоритмов.

Так появилась следующая часть нашей истории.

Мы сели и начали писать Конституцию ИИ Оракула.

ВОПРОС ИЗ 2030-ГО

Если завтра вы получите техническую возможность видеть каждое действие каждого сотрудника, какие данные вы сознательно решите не смотреть?