* 내용 인용 시 [김어준의 겸손은힘들다 뉴스공장] 인터뷰 내용임을 밝혀 주시기 바랍니다.
[인터뷰 제3공장] 작사·작곡·보컬까지 2분 만에 뚝딱?…AI로 음악 만드는 시대. A 멘사 아이큐 테스트’해 보니…가장 높은 AI는? ‘통제 안 되면 핵 수준’ 美 국무부 의뢰 보고서, AI 위험성 경고 ▷원종우 / 과학과사람들 대표
▶김어준 : 자, 오랜만에 과학 얘기 좀 해보려고. 원종우 과학과사람들 대표 모셨습니다. 안녕하십니까.
▷원종우 : 안녕하세요.
▶김어준 : 그 사이에 책을 쓰셨네.
▷원종우 : 네.
▶김어준 : AI.
▷원종우 : 주제에 인공지능 책을 썼습니다.
▶김어준 : 요 앞에 책은 외계인이었거든요. 외계인이나 인공지능이나. 자, 인공지능 관련 책. 근데 이제 인공지능이 최근에 발전하면서 관심 있어서 지켜보고 있는데 무섭다.
▷원종우 : 정말 무섭죠.
▶김어준 : 네. 무섭다. 이거 무서운 지점 막 지나가고 있는데 사람들이 잘 모르고 있는 것 같다.
▷원종우 : 뭐 한 달 두 달 새에 정신없이 바뀌니까 조금만 관심을 안 가지면 금방 흐름을 놓칩니다.
▶김어준 : 지금 사실은 그 IT 기업의 거인들이 여기에 올인하고 있어요.
▷원종우 : 그렇죠.
▶김어준 : 전 세계에서 머리 좀 된다는 사람들이 무한대 자원을 공급 받으면서 여기에 다 올인해서 자기들끼리 경쟁하고 있거든요.
▷원종우 : 네. 투자도 엄청나게 나누어지고 있고.
▶김어준 : 이야 이거 터미네이터 나온다 이제.
▷원종우 : 그래서 사실 이 책도 기술 얘기는 아니고 기술 얘기는 조금밖에 없고 그런 문제를 많이 썼어요. 어떻게 대비를 해야 되고 지금 어떤 일이 일어나고 뭐 사회 정치적으로 어떤 준비를 해야 되나.
▶김어준 : 뭘 하나 보여주면서 얘기를 하세요, 그러면.
▷원종우 : 네. 사실 이번에는 좀 흥미도 있고 해서 노래 만드는 AI가 나왔는데.
▶김어준 : 노래.
▷원종우 : 노래를 일단 한 번 들어보시는 게 좋을 것 같아요. 제가 데모로 만든.
▶김어준 : 자, 노래 한 번 들어봅시다.
<AI 노래 재생>
▷원종우 : 가사가 들리시나요? 뉴스공장 찬가예요.
▶김어준 : 그러니까 우리에게 뉴스공장이 있어 하는 약간 2000년대 초반에 아이돌 노래풍인데.
▷원종우 : 그렇죠. 어용찬가를 제가 만들었는데. 원래는 공장장님 놀리는 노래 만들었다가 그거 빠꾸 돼가지고.
▶김어준 : 아니, 왜 그걸 했었어야지. 우리 아이, 그게 재밌었을 텐데.
▷원종우 : 그것도 뭐 준비가.
▶김어준 : 왜 빠꾸 됐어요?
▷원종우 : 공장장님이 틀지 말라고 하셨다던데요?
▶김어준 : 저는 못 들었어요.
▷원종우 : 아니에요? 못 들으셨어요?
▶김어준 : 나를 놀리는 거로 해야 재밌지.
▷원종우 : 그래서 찬가로.
▶김어준 : 있어요? 있으면 틀어봅시다.
▷원종우 : 있으면 틀어보죠.
▶김어준 : 자, 있으면 틀어보고. 자, 이거를 근데 AI가 만들었다는 거예요?
▷원종우 : 네. 노래도 AI가 했죠.
▶김어준 : 우리 원종우 대표가 국내 최초의.
▷원종우 : 인디밴드.
▶김어준 : 그렇지. 그렇게 말해야 되겠다. 국내 인디밴드라는 개념이 없었던 시절에 국내 최초의 인디밴드를 들고 나왔던 90년대에 기타리스트이자 음악가란 말이죠. 그래서 본인이 여기에 1도 기여한 바가 없어요?
▷원종우 : 가사는 이건 이제 가사를 썼고요.
▶김어준 : 텍스트?
▷원종우 : 네. 텍스트.
▶김어준 : 텍스트만 준비.
▷원종우 : 텍스트만 주고 스타일만 좀 우리 댄스, 한국 댄스식으로 해봐라.
▶김어준 : 한국 댄스식으로?
▷원종우 : 네. K-POP 댄스.
▶김어준 : 저 놀리는 거 한 번 해봐요. 지금.
<AI 노래 재생>
▶김어준 : 작가들이 너무 힘들어. 좀 쉬고 싶어. (웃음) 작가들의 하소연인데.
▷원종우 : 작가들이 저한테 요청을.
▶김어준 : 아까는 작가들이 안 된다고 그랬다며. 어쨌든 이건 가사만 넣고 노래풍을 지정하면 튀어나오는 거예요?
▷원종우 : 네. 전부 다.
▶김어준 : 이야.
▷원종우 : 한국어 가사가 이렇게 명확하게 나온다는 게 신기하죠.
▶김어준 : 그러니까 우리가 만든 AI가 아닌데.
▷원종우 : 아니죠.
▶김어준 : 텍스트를 치고 노래풍만 지정을 하면 한국어 가사로 이 정도 풍이 나온다는 거예요?
▷원종우 : 네. 노래도 사실 굉장히 발음도 정확하고요.
▶김어준 : 정확한데.
▷원종우 : 이거 같은 경우 제가 가사를 썼지만 그냥 가사 안 쓰고 뭐 슬픈 사랑 노래 만들어줘 하면 자기가 가사를 씁니다, 거기서 AI가.
▶김어준 : 가사도 써요?
▷원종우 : 네.
▶김어준 : 1분 만에 나와요, 곡이.
▷원종우 : 이게 1분 만에?
▷원종우 : 1분 만에 나옵니다.
▶김어준 : 딴 거 있습니까?
▷원종우 : 제가 발라드 하나 만들었던 것도 있는데.
▶김어준 : 자 또 들어봅시다.
<AI 노래 재생>
▶김어준 : 이거 괜찮은데? 이거는.
▷원종우 : 이거 제가 좋아하는 곡이에요. 제가 만든 건 아니지만 시킨 거지만.
▶김어준 : 아니, AI가 만든 거예요, 이게?
▷원종우 : 네. 이게 굉장히 놀라웠던 게 뭐냐면 드라마 삽입곡 같은 느낌으로 나왔잖아요. 그냥 제가 시킨 건 가사도 안 썼고 제가. 한국 여자 K-POP 발라드 해가지고 그냥 그 말만 넣었어요.
▶김어준 : 한국 여자 K-POP 발라드.
▷원종우 : 네. 그랬더니 이제 이런 드라마 삽입곡 같은 분위기를 만드는데 잘 들어보시면 그 우리 여자들 보컬 마이크 가까이 대고 소근소근 하면서 왜 숨 들이마시는 거 있잖아요. 이런 것까지 나와요. 그러니까 사실은 구별이 거의 말을 안 하면 구별할 수가 없죠.
▶김어준 : 아니, 이거는 진짜로 실력 있는 작곡가가 실력 있는 가수 섭외해가지고 만든 것 같은데.
▷원종우 : 그래서 사실 뭐 그런 건 있죠. 하나 시키면 몇 개를 들어보고 그중에 고르긴 해야 돼요. 모든 게 완벽하게 나오지는 않습니다. 그런데 계속 시킬 수가 있으니까 어차피.
▶김어준 : 그러니까 계속 시킬 수가 있는 거 아니야. 마음에 드는 게 나올 때까지.
▷원종우 : 네. 그렇죠. 계속하면 돼요, 그냥.
▶김어준 : 이야 이거는 진짜 작곡가들 뭐 먹고 사나 이제.
▷원종우 : 그래서 사실 그 김형석 작곡가님이 저랑 또 페친이신데 그분 쓰신 게 얼마 전에 그 콩 뭐라고 그러죠? 그 곡 그 뭐라고 그래야 돼요? 콩쿠르라고 요즘 안 하죠?
▶김어준 : 경진대회?
▷원종우 : 경진대회 그런 걸 했는데 거기에 AI 곡을 출품을 누가 한 거예요. 근데 처음에는 작곡가님을 포함해서 아무도 몰랐다고.
▶김어준 : 모르겠지. 이런 게 나오면 AI가 했는지 사람이 했는지.
▷원종우 : 사실 알 수가 없죠.
▶김어준 : AI라고 말하기 전까지는 모르겠는데.
▷원종우 : 네. 그래서 그때 뭐 번복이 되고 안 되고 뭐 이런 문제 때문에 골치 아팠다고 올리셨었어요. 그런 프로가 계속 곡을 만드시는 현업에 계신 분조차도 이제 헷갈리는 거죠.
▶김어준 : 프로도 못 찾아낼 것 같아요, 이거.
▷원종우 : 네. 그런 상황이 벌써 도달을 했습니다. 그래서 곡 만드는 분들은 이걸 툴로 쓰면 장점이긴 하겠지만 한편으로는 이제 불편한 마음이 또 있을 수밖에 없는.
▶김어준 : 그러니까 자기가 만든 게 아니라 이거 AI가 만든 거 들어보고 몇 소절 고치거나 그런 다음에 자기가 만들었다고 해도 되는 거 아니에요, 지금은.
▷원종우 : 아무도 알 수가 없어요, 사실.
▶김어준 : 아무도 알 수가 없지. 원래 AI가 나와서 가장 먼저 단순한 직업들이 사라질 것이다 그랬는데 정반대로 가장 창의적인 직업이 살아남는다고 했는데 가장 창의적인 직업부터 사라지게 생겼어요.
▷원종우 : 생각보다 창의력이라는 게 어렵지 않았던 겁니다.
▶김어준 : 그러니까.
▷원종우 : 우리가 과대평가했던 것이.
▶김어준 : 음악이나 그림도 마찬가지잖아요. 지금 뭐 CG나 그래픽 분야 그리고 프로그래밍. 프로그래밍도.
▷원종우 : 코딩도 이제 AI가 잘하죠.
▶김어준 : 그러니까 코딩이 인간 중급 이상을 넘어간다는 거 아니에요. 어떡해. 이제.
▷원종우 : 하여튼 생각해보면 뭐 AI의 언어가 코딩이니까 뭐 잘할 수밖에 없는 부분이 있고.
▶김어준 : 그림도 그렇고 특수효과도 그렇고 CG도 그렇고 그다음에.
▷원종우 : 지난번에 소라 동영상도 뭐 한 번 소개하셨다고 하던데요. 그것도 뭐 너무 벌써 그 소라 동영상으로도 단편영화들이 나오고 있어요. 짧은 1~2분짜리. 근데 보고 있으면 전혀 구별할 수 없습니다. 찍은 거랑.
▶김어준 : 이거는 저작권은 그러면 누구한테 있는 겁니까?
▷원종우 : 저작권은 지금은 없죠.
▶김어준 : 저작권은 이 명령을 내린 사람한테 있어야 되는 거 아니에요?
▷원종우 : 그게 굉장히 애매한 게 작년 말에 문체부가 저작권등록 관련 규정을 개정을 하면서 AI가 만든 그림, 시, 소설, 뭐 음악 창작물은 저작권 등록이 안 된다, 라고.
▶김어준 : 조금 고치면.
▷원종우 : 그게 이제 애매한 부분인 게 사실 알 수가 없잖아요.
▶김어준 : 알 수가 없지. 이야.
▷원종우 : 그러니까 이런 식으로 뭐 작품이 나오지만 이걸 뭐 노래만 빼고 해가지고 노래만 사람한테 부르게 시킬 수 있고 가수한테.
▶김어준 : 이 AI 이름이 뭐예요?
▷원종우 : 수노. SUNO예요.
▶김어준 : 어디서 만든 겁니까?
▷원종우 : 그 아마 그 회사가 아닐까 싶은데. 저도 업체는 정확하게 모르겠어요.
▶김어준 : 우리나라 게 아니죠.
▷원종우 : 미국 거죠.
▶김어준 : 미국 거고.
▷원종우 : SUNO AI라고 검색하면 들어가고 무료로도 몇 곡 만들 수 있고 아니, 한 달에 돈을 2만 원 내면 2,500 곡을 만들 수가 있으니까.
▶김어준 : 2만 원?
▷원종우 : 네.
▶김어준 : 2,500곡?
▷원종우 : 네. 그러니까 뭐 끊임없이 만들어보고.
▶김어준 : 망했다. 망했어.
▷원종우 : 좋은 게 나오면 쓰면 되는 거예요.
▶김어준 : 일반 작곡가는 망했는데. 예를 들어서 클래식하면 클래식이 나오고.
▷원종우 : 스타일. 헤비메탈하면 헤비메탈 나오긴 하죠.
▶김어준 : 헤비메탈 나오고 한국말로 했더니 이렇게 나왔다는 얘기는 예를 들어 중국어로 해도 발음이 그 정도 나오는 중국 노래가 나오는 것이고.
▷원종우 : 아마 뭐 주요언어들은 되지 않을까.
▶김어준 : 아랍어로 하면 아랍어로 이런 게 나온다는 거잖아요.
▷원종우 : 모든 언어가 되는지는 모르겠는데요. 주요 언어들은 되도록 하지 않았을까 싶습니다. 한국어 되는 거 보면.
▶김어준 : 한국어가 쉬운 언어가 아닌데 저게 된다는 얘기는.
▷원종우 : 네. 발음이 가끔씩 만들어 보면 10개 만들면 한 3개 정도는 뭉개지긴 해요, 발음이. 그런데 역시 계속 만들면 되니까 상관이 없죠.
▶김어준 : 이야 그러니까 이거는 이제 음악 분야를 예를 들어서 우리 원종우 대표가 음악을 하셨으니까 예를 들어서 AI가 어느 정도 속도로 지금 발전을 하고 있는지를 보여주는 건데. 또 있습니까?
▷원종우 : AI가 요즘 이제 소위 챗GPT류의 LLM이라고 하잖아요. 그게 이제 계속 쏟아져 나오는데 얼마 전에 클로드3라는 게 나왔었어요.
▶김어준 : 클로드3?
▷원종우 : 근데 클로드3 써본 분들이 뭐 개발자들 포함해서 전부 챗GPT보다 더 자연스럽고 더 낫다. 이런 평이 나오고 있는데 얘가 이제 IQ테스트를 받은 겁니다.
▶김어준 : IQ테스트?
▷원종우 : 네.
▶김어준 : 인간의 IQ테스트를.
▷원종우 : 네. IQ테스트를 이제 제대로 할 수 없으니까 그러니까 도형 같은 게 많이 나오잖아요. 근데 AI가 도형 인식하는 데 조금 문제가 있으니까 다 이제 시각장애인이 설명 듣고 하듯이 다 말로 풀어줬대요.
▶김어준 : 아, 말로 풀어줬다.
▷원종우 : 네. 뭐 도형 형태 같은 거를. 그런 식으로 해가지고 질문을 했는데.
▶김어준 : 사람 상대하듯이 말로 불러주면 IQ테스트를 했어요. 그랬더니.
▷원종우 : 네. 이게 뭐 멘사 IQ테스트를 한 거랍니다. 근데 이 클로드3가 드디어 세 자릿수 101을 달성한 겁니다.
▶김어준 : 무섭다.
▷원종우 : 솔직히 우리 중에서도 100이 안 되는 경우들이 많이 있습니다.
▶김어준 : 100이 안 되는 분들이 정치판에도 많이 있는 것 같은데.
▷원종우 : 100이 사실 평균이기 때문에 기본적으로.
▶김어준 : 평균이죠. 인간의 평균이 100이라고 하니까.
▷원종우 : 뭐 안 될 수밖에 없는 거고 많은 사람들이. 챗GPT, GPT4는 85를 받았대요. 같은 테스트에서 이분이 한. 그래서 어쨌든 좀 상징적인 물론 사람하고 똑같이 생각한다는 건 아니지만 상징적인 부분이 있는 거죠.
▶김어준 : 이야 지금 100이니까. 근데 이 발전 속도가 어마어마하게 빠르니까 한 3년 후면.
▷원종우 : 너무 빠릅니다.
▶김어준 : 뭐 150, 200 인간이 뭐 200 어쩌고 어쩌고 하는 IQ도 있다고 하니까.
▷원종우 : 네. 알 수 없죠.
▶김어준 : 근데 이제 제가 무서운 이유가 뭐냐면 그 바둑 처음에 얘기 나왔을 때 바둑이 인간, AI에서 바둑에서 인간을 넘어서려면 앞으로 한참 걸릴 것이다.
▷원종우 : 50년 걸린다. 뭐 이랬었죠.
▶김어준 : 그렇죠. 그런데 이제 한 번에 넘어갔잖아요.
▷원종우 : 큰일입니다.
▶김어준 : 그 프로그램을 이제는 요 AI가 넘어서고, 넘어서고 넘어서가지고 이제는 왜 그 수를 두는지 우리가 몰라요. 몰라가지고 이제 인간은 절대 이 AI를 바둑에서 이길 수 없는 단계에 도달해버렸는데 이유를 모른 다는 거 아니에요. 이유를. 그러니까 IQ가 측정이 안 되는 거거든.
▷원종우 : 어떤 수를 왜 두는지를 파악을 할 수가 없으니까 뭐 물어볼 수도 없고. 물어봐도 몰라요. AI가 답을 못 해주고. 그럼에도 불구하고 문제는 해결을 한다.
▶김어준 : 답이 나온다.
▷원종우 : 답이 나오니까.
▶김어준 : 그러니까 이게 이제 바둑에서 그랬는데.
▷원종우 : 모든 문제에서 그런 식의 문제가 생길 수 있죠.
▶김어준 : IQ에서 무한대가 나올 수 있어요. 우리 IQ 측정기준으로는 측정이 안 될 수도 있어요.
▷원종우 : 이거 사실 챗GPT가 나온 지가 1년 반도 안 됐거든요. 생각해 보면. 근데 이런 속도로 발전을 하니까 뭐 3년 후에는 소위 그 범용 인공지능 사람처럼 정말 모든 쪽으로 다 할 수 있는 그런 게 나온다는 얘기도 나오고 있고.
▶김어준 : 나올 것 같은데.
▷원종우 : 네. 바둑도 하고 뭐 운전도 하고 뭐.
▶김어준 : 10년 이내에 나올 것 같은데.
▷원종우 : 3년 내로 나온다는 말이 나와요, 벌써.
▶김어준 : 3년이요?
▷원종우 : 얼마 전까지도 10년이었는데 이제는 3년 얘기를 하고 있어요. 엔비디아 뭐 대표 이런 분이 그런 얘기를 하니까.
▶김어준 : 무섭다. 이 정도 되면 이거 이렇게 가다가는 너무 위험하다, 라고 하는 이 움직임이 나와야 되는데.
▷원종우 : 사실 이런 작년, 재작년부터 뭐 개발자 중에 그런 얘기들이 나오고 했는데 지금 어떤 상황이 벌어졌냐면 작년에, 작년에 이제 올해 초에 미국 국무부에서 의뢰를 했어요. 민간업체 의뢰를 글래드스톤 AI라는 곳에 의뢰를 해서 지금 AI 상황에 대해서 좀 진단을 해 달라고 했더니 여기서 이제 보고서가 한 두 달 전에 나왔는데요. 어떤 내용이냐. 인공지능이 매우 위험해서 인류를 멸종시킬 수 있다, 라는 보고서가 미국 국무부가 부탁한 쪽에서 나온 겁니다.
▶김어준 : 그러니까 우리 SF에서 보던 터미네이터가 진짜로 그게 가능할 수 있다는 보고서가 지금 나온 거잖아요. 이제 진짜로.
▷원종우 : 사실 그렇다고 할 수 있죠.
▶김어준 : 그러니까 왜냐하면 이 AI가 바둑 둘 때 그 수를 왜 두는지 우리가 모르는데 바둑은 이기잖아요. 근데 이제 AI가 예를 들어서 지구를 보호하고 어쩌고저쩌고 했어 인간의 종이 계속 지속될 수 있도록. 근데 인간의 종이 지속되어야 한다고 그랬지 모든 인간이 다 살아남아야 한다고 말한 건 아니잖아.
▷원종우 : 그런 게 이제 하위명령의 문제인데요. 그 큰 말씀하신 대로 큰 목적을 달성하기 위해서.
▶김어준 : 인류라는 종을 지구상에서 지속가능하도록 그런 환경 이렇게 얘기했는데 그래? 그러면 반쯤 죽어야 되겠는데.
▷원종우 : 그런 걱정을 정말로 하는 겁니다. 사실은.
▶김어준 : 그러니까 하는 거죠.
▷원종우 : 네. 그런 류의 걱정을 진짜 하는 거고 그런 식의 상황이 벌어질 수 있다, 라는 걸 우려하고 지금부터 대비를 하지 않으면 정말 위험해질 수 있다는 얘기가 이런 보고서의 핵심 중에 하나라고 볼 수 있습니다.
▶김어준 : AI 우리 말고 AI를 잘 아는 사람들이 개발하고 있는 사람들이 하는 얘기예요.
▷원종우 : 근데 사실 사회적으로 압력이 들어가야 됩니다. 이제는.
▶김어준 : 그렇죠.
▷원종우 : 과학자들은 개발자들은 어쨌든 계속 발전시키려는 생각을 많이 하다 보니까 주변에서 제도도 만들어야 되고 법령도 만들어야 되는데 지금 전 세계적으로 다 늦고 우리나라는 좀 더 늦는 것 같아요.
▶김어준 : 우리나라는 더 늦는 시즌이잖아요, 지금. 모든 분야에서 뒤로 가고 있으니까.
▷원종우 : 시대가.
▶김어준 : 큰일 났어요. 진짜.
▷원종우 : 우리는 좀 AI가 문제가 아닐 수도 있죠. 나중 얘기고 이거는.
▶김어준 : AI는 우리, 우리는 걱정합시다, 이거는 우리끼리는. 정부가 이거 대응해야 되는데 우리 대통령은 이해할 수 없을 테니까 우리라도 걱정하고 있읍시다. 자, AI 얘기 나눠봤습니다. 또 모시겠습니다. 원종우 과학과사람들 대표였습니다. 감사합니다.
▷원종우 : 감사합니다.