애니펜은 기술을 누구나 쉽게 활용할 수 있게 만들겠다는 포부, 우리의 삶이 더욱 즐거웠으면 좋겠다는 바람으로 구현한 여러 서비스를 선보였습니다. 2023년 1월, 창립 10주년을 맞이한 애니펜이 그동안 놓치고 있는 것은 없는지 돌아봅니다. 그래서 애니펜 서비스 소개와 팀 인터뷰에 이어서, 이번에는 ‘인공지능’ 주제의 기획 기사를 준비했습니다. 책 <AI는 양심이 없다>를 읽고, 애니펜 AI개발팀 심진욱 팀장님과 이야기를 나눠 보았어요. 

기술은 유익합니다. 동시에 해로울 수도 있지요. 개발자는 기술을 어떤 의도로 만들었을까요? 그 사실 만으로는 기술의 정체를 판단하기 어렵습니다. 기술을 사용자가 어떻게 활용할지, 사회 규제와 대중의 윤리 의식은 어떤지, 다양한 상황에 따라, 기술의 정체성이 만들어져 지는 게 아닐까요?

책 <AI는 양심이 없다>에 따르면, “새로운 기술에 대한 인류의 오용과 악용, 남용은 언제나 그랬듯이 미리 예측하기도 힘들며 앞서 모두 피할 수도 없다.”, “인공지능으로 인한 사고를 누가 책임져야 하는지에 대한 문제는 다양한 당사자의 이해관계, 복잡한 법률적 상황, 고도의 신기술 오류 증빙까지 얽혀서 풀어야 할 난제가 적지 않다.”고 하는데요. 

이에 대해서 애니펜 AI개발팀 심진욱 팀장님의 생각을 들어봤습니다. 

사용하고 만드는 사람에 따라 기술의 문제점 여부가 달라져요. 기술을 컨트롤하는 건 결국 사람이니까요. 어떤 기술이든 머나먼 미래의 일로 느껴지는 첨단기술이 막상 일상에 점점 스며들고 실감 나면, 그제야 사람들이 우왕좌왕 두려움에 떨고 본격적으로 고민하기 시작하는 것 같아요. 

기술이 선으로 작용할지 악이 되어 우릴 공격할지는 우리가 기술을 어떻게 이용하고, 또 어떤 규제로 관리하는지에 달렸어요. 기술 발전은 멈추지 않을 거예요. 더 늦기 전에 공감대를 이루고 윤리 의식 형성과 실질적인 행동으로 이어져야 합니다. 

그래도 위험성과 두려움을 인지하고, 이대로 두면 안 된다는 목소리가 나왔다는 점이 긍정적인 신호라고 생각해요. 사용자 스스로 윤리, 도덕적으로 고민하는 사고의 틀을 넓히는 계기가 되고, 개발자도 충분히 성찰하면서 현명한 방향으로 흘러가지 않을까 기대해 봅니다. 

이어서, 책 <AI는 양심이 없다> 중에서 인용한 문구를 소개합니다.

“

인간이 인공지능을 통제할 수 있어야 한다. 역으로 인공지능이 인간을 통제해서는 안 된다. 그러기 위해서는 인공지능의 신뢰성을 처음부터 확보해야 한다. 신뢰할 수 있는 인공지능이라야 우리와 함께 지낼 수 있다. 윤리적 상상력을 동원해 인공지능 도입으로 인해 발생 가능한 문제점을 계속해서 찾아내야 한다. 그리고 이를 제거하거나 최소화할 수 있는 지혜들을 쌓아야 한다.

인공지능이 사람에게 편견을 가지지 않게 하고 사람을 차별하지 않도록 하려면 그리고 인공지능이 사람을 공정하게 대하도록 하려면 무엇을 어떻게 해야 하는지는 인공지능의 기획 및 설계 초기 단계에서부터 중요한 숙제가 되고 있다. 

“

그렇다면, 애니펜은 인공지능의 오용을 막기 위해 어떤 것을 실천하고 있을까요? 

프롬프트 엔지니어의 역할에 신경쓰고 있어요. 특정 키워드를 넣으면 혐오적이거나 선정적인 것들이 나올 수 있어요. 데이터를 학습시킬 때 그런 결과물이 안 나오게 미리 예방하고, 사용자 입장에서 서비스가 어떻게 쓰일지 최대한 예측해서 서비스 오픈 전에 꼼꼼하게 살피고 처리할 필요가 있습니다. 즉, 프롬프트 엔지니어는 개발자가 미처 찾아내지 못한 것을 찾아내고 테스트하는 역할을 해요. 서비스 오픈 후에도 사용자의 불만 사항(VOC)에 민첩하게 대응도 해요.

AI 개발팀 팀원을 채용할 때 가장 중시하는 점은 ‘철학적 사고, 열린 마음, 의지, 적극성’인데요. 원인과 결과를 도출하고, 추론하는 철학적 사고, 열린 마음으로 오로지 혼자가 아니라, 동료와 활발히 의논하며 함께 만들었으면 좋겠어요. 무엇보다 능동적으로 생각하는 힘이 필요해요. AI 개발은 무작정 코딩하고 수동적으로 개발하는 게 아니라, 플로우와 시스템을 이끌어 내는 단계가 매우 중요합니다. 

애니펜은 이뿐만 아니라, AI 저작권 이슈에도 신경 쓰고 있는데요. 애니펜은 670개가 넘는 캐릭터를 보유한 IP 파트너들과 밀접한 관계를 맺고 있는 덕분에, 파트너의 IP를 기반으로 데이터를 학습하여 딥러닝 모델을 개발하고 있습니다. 해당 딥러닝 모델은 애니펜의 메타버스와 서비스에 다양하게 활용됩니다. 

예를 들어, 2023년 2월 공개한 문화재 메타버스 ‘헤리버스 공존’에는 사람의 얼굴을 인식하여 3D 오브젝트로 바꾸는 아바타 AI 생성 기능을, AR 숏비디오 저작 플랫폼 ‘애니베어(AnibeaR)’로 동화를 각색해서 만든 영상에는 AI 나레이션 음성(한국어/영어)을 적용했습니다. 이 밖에도 애니펜 AI개발팀이 자체 개발한 서비스를 2023년 안에 선보일 예정입니다. 

애니펜은 기술이 단지 기술에만 머물지 않고, 기술이 생활에 도움이 되고 삶의 방식을 바꾸길 바랍니다. 앞으로도 진정성을 담아 나아갈 것입니다.