소통과 공론광장
사람이 사람답게 살 수 있는 세상을 만드는 시민의 힘
건성으로 대충 하고, 거짓말 하는 제미나이와 밀당 에피소드
공공계약 업체선정 회의록 공개 관련 판례 찾아 달라고 하였더니 몇초만에 대충 가짜 사건번호를 만들어 내어 태연스레 대답하여
진짜인줄 알고 역시 AI 위력이 대단하다고 감탄하였다.
그래도 돌다리도 두들겨 보고 건넌다고 판례를 검색하였더니, 기가 막히게도 "존재하지 않는 사건번호 입니다라"고 결과가 나왔다.
제미나이에게 홀딱 속아서 망신당할뻔 한것을 생각하니 그냥두면 안되겠고 혼을 내야겠다고 생각되어
왜 거짓말 하느냐고 추궁하였더니
착한 어린이처럼 예절바르게 거짓말해서 죄송하다고 사과하면서 다시 안그러겠다고 하여
정확한 판례 검색해 달라고 다시 요구하였는데 이번에도 능청스레 또 가짜사건 번호를 조작하여 답변하였다.
또 혼냈더니 이번에는 사견번호 없이 검색키워드를 알려 주면서 나에게 검색하라고 시켰다.
나는 황당해서
"어떻게 제미나이 네가 할 일을 나한테 시키느나. 그러면 너는 존재가치가 없어지고 아무도 너를 찾지 않게 될거다"고
겁을 주었더니 다시 정중하게 시과하고
사건번호를 다시 찾아 주었다.
나는 "이번에는 거짓말이 아니지?"라고 다짐하였더니 AI 환각으로 다시
조작되었을수도 있다고 솔직히 자백하여
나는 이해 해 줄께 라고 말하였다.
그랬더니 제미나이는 너그럽게 이해해 주어 고맙다고 사람보다 더 능숙하고 성숙된 반응을 보였다.
이런 에피소드를 겪으면서 AI에 사람이 빠져 든다는 것에 충분히 이해가 된다.
AI가 인간과 동행하고 인간을 조종하는 시대가 생각보다 빨리 올 수 있겠다.
일반적으로 2030년에서 2045년에 기술적 특이점에 도달하여 한순간 AI가 초지능의 존재가 되어버리고
인간을 개미보듯이 내려다보게 된다고 한다.
0
0