Лог говорит: «в 14:03 привод отключился». ИИ отвечает: «вероятно, перегрев». Если в данных нет канала температуры, это не диагностика, а гладкая история с дырой вместо измерения. В инженерной работе хороший ответ ИИ ценен не уверенностью, а тем, что превращает неизвестность в следующий проверяемый вопрос.
Что можно поручить ИИ
- собрать временную шкалу только из строк с timestamp;
- сгруппировать повторяющиеся fault-коды;
- перечислить отсутствующие каналы и версии;
- предложить до трёх гипотез с различающим наблюдением;
- превратить документированный код ошибки в список вопросов к первоисточнику.
Чего нельзя поручать
ИИ не устанавливает корневую причину по неполному логу, не решает, что безопасно продолжать движение, не меняет параметры живого драйвера и не отключает защиты. NIST называет уверенно представленное ошибочное содержание confabulation — это именно тот риск, который особенно неприятен рядом с энергией и движением.
Карточка разбора
Сначала сохраните manifest: время и источник времени, устройство, версии ПО/конфигурации, commit, список записанных и отсутствующих каналов. Затем приложите неизменяемую выгрузку, единицы и вопрос. Корректный запрос: «Не называй причину. Перечисли пробелы, составь хронологию только по фактам и предложи гипотезы с наблюдением, которое их различит». После этого человек выбирает безопасный тест и заносит результат в протокол.
факты → гипотезы → различающий тест → подтверждено / отклонено / неизвестно — эта цепочка сильнее любого красивого резюме. Не отправляйте во внешний сервис ключи, персональные данные, точные маршруты и конфигурации без разрешения.
Источники
- NIST Generative AI Profile.
- NIST AI Risk Management Framework.
- ROS 2: recording and playing back data.
Дальше: протокол испытания.