AI가 생활의 변화를 알려주면, 곧바로 결론을 내려도 될까요?
돌봄에서 중요한 것은 AI가 사람을 대신 판단하는 일이 아닙니다. 먼저 확인이 필요한 신호를 알리고, 그 신호를 어떻게 확인할지 정해 두는 일입니다.
AI 아저씨가 말하는 AI의 역할도 같습니다. 현장의 경험을 AI의 언어로 옮기되, 사람의 판단과 책임이 사라지지 않게 경계를 만드는 일입니다.
알림은 시작점이다
공개된 정부 AI 활용사례 자료에는, 생활 센서의 정보를 바탕으로 위험 징후를 분석하고 돌봄 기록을 정리하는 재가 돌봄 설계가 소개되어 있습니다. 이 사례에서 확인할 수 있는 것은 ‘AI가 신호를 정리해 줄 수 있다’는 점입니다. 신호 하나만으로 어떤 사람의 상태나 필요한 조치를 단정할 수 있다는 뜻은 아닙니다.
같은 알림도 여러 이유로 생길 수 있습니다. 평소와 다른 생활 패턴이 곧 위기를 뜻하지는 않습니다. 그래서 알림 다음에는 확인의 순서가 필요합니다.
세 줄로 확인의 순서 만들기
실제 이름이나 기록을 쓰지 않고, 다음 세 줄만 먼저 정해 볼 수 있습니다.
- 신호: 무엇이 평소와 다르게 보였는가?
- 확인: 누가 어떤 방법으로 다시 확인하는가?
- 다음 행동: 확인 뒤에 누가 연결하거나 멈추는가?
가상의 예를 들어 보겠습니다. 일정 시간 동안 움직임 정보가 들어오지 않았다는 신호가 생겼다고 합시다. 이 신호는 ‘위험하다’는 결론이 아닙니다. 먼저 정해진 담당자가 다른 정보와 함께 확인하고, 필요할 때만 정해진 연락 절차로 이어집니다. 개인의 생활 정보나 연락처를 AI의 답변에 넣을 필요는 없습니다.
AI가 맡는 일, 사람이 맡는 일
AI는 알림을 정리하고, 누락된 확인 질문을 보여 주고, 기록의 초안을 만들 수 있습니다. 하지만 다음을 AI가 대신 정할 수는 없습니다.
- 그 신호가 실제로 중요한지
- 누구에게 연락할지
- 어떤 정보까지 공유할지
- 예외 상황에서 누가 책임지고 결정할지
기술이 늘어날수록 이 구분은 더 중요해집니다. 편리한 알림을 ‘판단 완료’로 바꾸지 않는 것이 안전한 시작입니다.
오늘의 작은 질문
AI가 보내는 알림 하나를 떠올려 보십시오. 그리고 다음 문장을 채워 보십시오.
이 알림은 ___의 결론이 아니라, ___이 다시 확인해야 한다는 신호다.
이 한 줄이 있으면, AI는 사람을 밀어내는 도구가 아니라 확인을 돕는 도구가 될 수 있습니다.
AI 아저씨의 역할과 다음 글의 안내는 aiajeossi.com에서 확인할 수 있습니다.