У этих разговоров появилось практическое продолжение.
Меня пригласили мейнтейнером в Agent-Ops (agent-ops.ru, GitHub) — проект методологии эксплуатации инфраструктуры с участием ИИ.
Прочитал. Узнал свои мысли. Поздоровался с ними.
Приятное чувство: люди пришли со своей стороны к вопросам, с которыми ты давно ходишь.
Что мы поручаем машине? На основании чего принимаем её выводы? Кто разрешил применить то, что она предложила? (Делаем бога из машины?)
Последний вопрос в эксплуатации особенно интересен.
Обычно его задают уже после.
Мы десятилетиями передавали машинам работу. Сначала отдельные вычисления. Потом последовательности действий. Теперь можно передать задачу, для которой последовательность ещё предстоит придумать.
Мне это нравится. Гремлины не только ломают. Хотя…
Машины научились достраивать то, что мы забыли объяснить.
Что именно забыли — иногда выясняется при раскопках.
Поэтому вопрос «доверяешь ли ты ИИ?» мне тесноват.
Какую работу готов ему поручить? Как пойму, что он справился? Какую цену ошибки готов принять?
Вот тут начинается знакомая работа.
Уверенное объяснение причины аварии ещё предстоит сверить с фактами. Команду, которая завершилась успешно, — с состоянием сервиса. Зелёный отчёт — с тем, может ли пользователь сделать своё дело.
В Agent-Ops это раскладывается на конкретные договорённости.
Какие данные считаем достаточными. Что агент может предложить. Кто вправе утвердить изменение. Как отдельная программа применяет согласованный план. Кто независимо проверяет результат.
Контракты.
Если данных мало — так и записываем: неизвестно.
Очень полезное слово. Иногда экономит несколько часов уверенной работы не с той причиной.
У каждого в процессе своё место. Человек принимает решение в границах своих полномочий и отвечает за принятый риск.
Кнопка «согласовать» сама по себе этого не обеспечивает.
Нужно понимать, с чем согласился.
«Это сделал ИИ» сообщает нам способ производства.
С ответственным пока ясности нет.
Мне интересно делать это головой. Описывать договорённости. Проверять их на практике. Исправлять то, что оказалось красивым только в описании.
Проверять результат.
Сам инструмент тоже.
Теперь буду участвовать в том, чтобы эти договорённости работали.
Всегда писал, что за словами должна стоять ответственность.
Дописываю фамилию. Ставлю зелёный крестик.
Архитектор в Cyberdyne Systems, наверное, тоже с этого начинал.