AI가 문서를 만드는 것을 넘어 센서, 장비, 로봇과 연결되면 질문이 달라집니다.
“AI가 무엇을 할 수 있는가?”만으로는 부족합니다. **어떤 경우에 멈추고, 누가 다시 확인할 것인가?**를 먼저 정해야 합니다.
빠르게 움직이는 것보다 멈춤과 확인의 경계를 설명하는 일도 AI 아저씨의 역할입니다.
피지컬 AI를 어렵게 생각하지 않기
여기서 피지컬 AI는 화면 안에서 답하는 AI가 아니라, 센서나 장비를 통해 현실의 물체와 작업에 영향을 주는 AI를 뜻합니다. 이 글은 특정 지역이나 산업의 보급률을 말하려는 것이 아닙니다. 실제 환경에 작용하는 자동화라면 어디서든 필요한 경계를 생각해 보자는 제안입니다.
시작 전에 묻는 세 가지 질문
작은 자동화라도 다음 세 질문을 먼저 적습니다.
- AI가 해도 되는 일은 무엇인가?
- 어떤 조건이면 멈춰야 하는가?
- 누가 다시 확인하고 승인하는가?
예를 들어 가상의 작업 공간에서 AI가 점검 결과의 초안을 만들고 다음 작업을 제안한다고 합시다. 센서 값이 평소 범위를 벗어나거나, 필요한 기록이 비어 있거나, 예외 조건에 해당하면 AI는 실행하지 않고 멈춰야 합니다. 사람은 원자료와 현장 상태를 확인한 뒤에만 다음 단계를 승인합니다.
확신과 책임은 다르다
AI가 매우 확신하는 표현을 내놓거나, 시스템에 확신도 지표가 표시되는 경우에도 그것이 업무상 승인 권한이나 책임자를 뜻하지는 않습니다. AI가 제시한 내용의 전제에 필요한 정보가 빠졌거나 상황이 바뀌었는지는 사람이 확인해야 합니다.
따라서 자동화의 설계에는 다음을 함께 적습니다.
- 실행 전에 확인할 항목
- 멈춤을 일으키는 예외
- 다시 시작할 권한을 가진 사람
- 잘못 실행했을 때 되돌리는 방법
- 각 판단을 남길 기록
오늘 할 수 있는 한 줄 설계
업무 하나를 골라 다음 문장을 완성해 보십시오.
AI는 ___까지 제안할 수 있다.
___이면 즉시 멈춘다.
___을 확인한 사람이 다시 승인한다.
이 문장은 AI를 겁내기 위한 규칙이 아닙니다. 사람이 책임 있게 사용할 수 있는 범위를 정하는 약속입니다.
현장 경험을 판단 조건으로 바꾸는 앞선 글과 기술적인 검증 흐름은 aiajeossi.com에서 이어집니다.