Эволюция ошибки. Как будут выглядеть ошибки будущего

На протяжении десятилетий цифровые продукты становились надёжнее: автоматизация убирала рутину, снижала число механических ошибок и делала процессы предсказуемее. С развитием AI этот процесс ускоряется — система всё чаще берёт на себя не только выполнение, но и интерпретацию задач.

При этом ошибка перестаёт иметь один понятный источник. Результат всё чаще создаётся человеком и AI: система может корректно выполнить команду, но неверно понять намерение, потерять контекст, предложить убедительное, но поверхностное решение или увести пользователя в неудачный сценарий. В таких случаях сложно ответить не только на вопрос «кто ошибся», но и на вопрос «была ли здесь ошибка вообще».

В докладе предлагаем посмотреть на эволюцию ошибки через дизайн и клиентский опыт: от привычных дефектов к ошибкам интерпретации, контекста, доверия и совместного принятия решений. Разберём, какие ошибки исчезают с автоматизацией, какие появляются вместо них и что теперь считать качеством цифрового продукта.