조직심리 | AI는 어떻게 활용되는 것이 도움이 될까요?

기술은 과연 인간의 자리를 차지할 수 있을 것인가?

이제는 다른 어떤 기술보다도 AI라는 기술에 의존하거나 그들과 공존하는 형태의 업무가 병행 혹은 진행될 수 밖에 없는 시대에 살고 있습니다. 그만큼 AI가 인류의 삶에서 차지하는 위상이 크다는 것을 의미합니다. 오늘은 흥미롭게도 AI가 내어준 결과에 대해서 인간이 어느 정도의 신뢰성을 가질 수 있는지를 두고 실험한 내용을 다뤄보고자 합니다.

참고한 논문은 “AI와 인간의 신뢰 관계 : 심리학적 관점에서의 분서 (정주영)”을 제목으로 하고 있었으며 의료, 금융, 교육 분야에서의 최종 의사결정 단계의 접점에서 벌어지는 양상을 다양한 관점으로 분석한 자료를 살펴보았습니다. 각 대상별 3가지 형태로 가정을 두고 설명을 진행하였으며 첫 번째는 설명한 진행할 경우, 두 번째는 감정 표현을 하는 경우, 마지막으로 전문가와 함께 협력적으로 AI가 적용된 경우를 두고 각 산업분야에서의 결과를 살펴볼 수 있었답니다.

인지적요인 vs 정서적 요인(?)

이들을 또 크게 유형화 한다면 2가지로 볼 수 있는데요. 첫 번째는 인지적 요인(설명 가능성, 전문가 협력)으로 두 번재는 정서적 요인(감정 표현)으로 구성됨을 알 수 있었습니다. 분명 이 연구 결과를 보며 AI라는 것이 사람의 의사결정 깊숙이 자리잡고 있음과 함께 경우별 사건 사례를 보며 인간이 무조건적으로 AI를 신뢰해서는 안 될거라는 생각도 해보게 되었습니다.

그 사례들은 아래와 같습니다.

1. IBM Watson Oncology : 설명 부족에 따라 의료 현장의 신뢰분괴
2. 자율주행자 사고(테슬라, 우버) : 책임 문제와 신뢰도 손상
3. 금융 신용평가 : 불투명성(신뢰도)으로 인한 고객 불신

기술을 통해 더욱 효과적인 결과를 창출해 내는 법

그렇다면 이런 신뢰도를 상승시키면서도 AI라는 기술을 활용함으로써 더욱 효율적이고도, 효과적인 활용에 대해서 알아볼 필요가 있을것 같습니다. 각 경우별로 결과를 정리하며 그 내용을 살펴보겠습니다.

1. 의료현장에서의 AI활용 사례

폐렴에 대한 CT검사 결과를 환자에게 보여주었고 AI는 비폐렴, 의사는 폐렴이라는 진단을 내리게 되었다고 합니다. 이 상황속에서 환자는 의사의 진단을 절대적으로 신뢰할 수 밖에 없었으며, 그 사유는 왜 그러한 진단을 내렸는지에 대한 직접적인 설명의 유무가 판단의 신뢰성을 결정한 것이라고 하죠. 즉, 이는 전문가의 권위적인 부분에서의 우선성을 의미하며 응급 상황이나 실제 결과를 제시하는 장면에서 환자는 AI가 아닌 의사의 설명과 판단을 더욱 신뢰함을 의미합니다. 또한 AI의 경우 아직까지 결과에 대한 근거를 제시하지 못하기 때문에 신뢰성에 문제를 발생시킨다고 하며, 인지적 신뢰에서의 기반 또한 제대로 서있지 않기 때문인것으로 밝혀지고 있습니다.

결과요약 : 전문성, 권위가 필요한 환경에서는 절대적으로 전문가의 설명이 이뤄져야함.

2. 금융기관에서의 AI활용 사례

신용평가 업무에 있어 효율성, 공정성을 고려하여 AI를 도입하는 경우가 다수 있습니다. 이를 통한 대출 심사 시스템을 도입한 금융기관의 경우를 들어 주담대 선정이 거절되는 장면을 언급하면서 AI가 내리는 대출불가 판정에 대해서 문의를 하는 과정을 들어 연구 결과가 제시되었습니다. 이 사례 또한 마찬가지로 단순히 AI로부터 결과 만을 통보받았을 때 왜 그와 같은 결과가 내려졌는지를 모르는 상황을 맞이한 고객은 심한 불만을 토로할 수 밖에 없었고 이는 금융기관의 이탈로까지 결과가 이어질 수 있다고 합니다. 또한 그런 결정이 내려지는 과정에 있어서의 설명이 불충분한 관계로 고객이 납득할 수 없는 상황에 처하게 됨으로써 신뢰도는 더욱 저하될 수 밖에 없었습니다.

결과요약 : 금융은 곧 신뢰와 연결될 수 밖에 없는 사항으로 개인의 삶과 밀접한 연관성 존재. 이에 결과보다 결과를 내리기까지의 과정과 이유를 충분히 설명하지 않으면 고객의 불신은 커질 수 밖에 없음.

3. 교육기관에서의 AI활용 사례

강의 플랫폼에서 AI기반 튜터 챗봇이 학습 지원에 활용된 사례를 들어 설명하고 있는데, 이 장면에서 학생들을 대상으로 정서적 관점의 언어를 활용함으로써 격려성 피드백을 제공하였다고 합니다. 이를 실제 경험한 학생들은 인공지능(AI)이 자신을 이해하고 응원해준다는 정서적 지원을 받았다고 말했으며 오히려 긍정적인 인상을 받았다고 밝혔다고 합니다. 즉, 단순한 기계로서의 정보나 결과 제공이 아니라 정서적 교감을 통해 파트너로서 사용자가 인식할 수 있도록 한다면 인공지능(AI)과 인간은 상호 신뢰를 기반으로 더욱 시너지를 낼 수 있음을 말하고 있습니다.

전문가의 설명과 정서적 지지가 Key Point

종합적으로 결론을 언급하자면, 결국 AI를 제대로 활용하기 위해서는 전문가의 설명과 AI의 정서적 기능이 결합됨으로써 사용자가 심리적으로 안정감과 함께 신뢰성을 제고할 수 있도록 장치를 마련해야 한다는 것입니다. 이는 인간이 주를 이루도 보조적 수단으로써의 AI 활용 가능성에 대해서 말하고 있습니다. 즉, 결과에 대한 제시나 내용에 대한 요약 등의 Fact기반 정보 제공은 할 수 있으나 인간과의 상호작용은 지극히 인간적이어야 하며, 오직 사람만이 사용자에 대한 신뢰도로를 고취시킬 수 있다는 것을 의미합니다.

시대가 변하고, 기술이 급격하게 발전함으로써 기계가 인간을 대체하는 상황이 벌어진다고 하더라도 결국은 인간이 중심에 있어야 한다는 것을 본 연구자료에서는 결과로서 제공하고자 한 것입니다. 이는 생성형 인공지능을 통해 콘텐츠를 작성한다고 하더라도 실제 사람이 자신의 머리와 손을 이용해서 오랜 시간 공들여 써내려간 글의 온도는 다를 수 밖에 없음을 의미합니다.