2023.6.19 | 611호 | 구독하기 | 지난호
글씨가 잘 안보이시나요?
여기를 눌러 웹에서 보세요
"점점 더 강력해지는 인공지능(AI) 모델의 위험을 완화하는 데 정부의 개입이 중요하다(2023년 5월 16일, 미국 상원 청문회)."
"유럽연합(EU)이 곧 발표할 AI 규정을 준수할 수 없다면 유럽을 떠나는 것도 고려할 수 있다(2023년 5월 25일, 영국 런던)."
IT, AI 업계에 있는 많은 사람들이 한 사람의 입을 주시하고 있습니다. 오픈AI의 공동창업자 샘 알트만이 바로 그 주인공이에요. 챗GPT의 아버지로도 불리는 알트만은 최근 '세계 투어'라는 이름으로 여러 나라를 방문, AI의 규제를 이야기 하고 있습니다.
막강한 AI를 개발한 사람이 AI를 규제해 달라고 이야기하고 있는 상황, 여러분은 어떤 생각이 드시나요.
앞서 보여드린 것처럼 일부 발언을 보면 혼란이 생기기도 해요. 미국에서는 AI에 대한 정부의 개입이 필요하다고 말한 알트만이 유럽에서는 EU가 추진하고 있는 규제에 반기를 드는 모양새를 보였거든요(이 발언을 하고 다음날, 알트만은 자신의 트윗을 통해 유럽에서 철수하지 않겠다고 밝힙니다).
이번 미라클레터에서는 알트만의 발언을 중심으로 AI 규제에 대한 그의 생각을 쫓아가보려 합니다.
아참. 시작하기에 앞서 그동안 미라클레터에서는 오픈AI, 챗GPT와 관련된 다양한 콘텐츠를 다뤘어요. 미라클러님들이 빠르게 다시보실 수 있도록 가져왔습니다(솔직히 오늘 글은 아래 글이 뼈대를 이루고 있어요).
챗GPT가 그린 큰 그림
챗GPT 뚫는자, 막는자
MS, 제국의 귀환
챗GPT 파헤쳐 보기
진짜 AI 혁명의 시작
어도비가 보여준 AI 미래
생성형AI와 사람이 할일
인공지능 화가의 등장
하나가 되려는 인공지능
오늘의 에디션
'강' 인공지능과 규제
AI악용, 어디까지 가능할까
(광고)시대를 읽는 '테크콘 & 더웨이브'
두 얼굴의 알트만?
한줄 브리핑
지난 9일 한국을 방문한 샘 알트만 오픈AI CEO가 서울 여의도 63스퀘어에서 중소기업벤처가 주관한 대담에 참석하고 있는 모습이에요. <사진=매경DB>
'强' 인공지능 '超' 인공지능
"AI를 규제해야 한다"라는 주장에는 크게 세 가지 영역이 섞여 있다고 생각해요. AI가 자의식을 갖기 전에 기술 개발 속도를 조절해야 한다는 게 첫 번째에요. 두 번째는 AI 기술을 악의적으로 활용하는 사례에 대한 규제입니다. 마지막으로 세 번째는 AI가 습득하고 출력해내는 정보, 즉 데이터와 관련된 규제입니다.
첫 번째 규제부터 볼게요. 이는 알파고가 이세돌 9단을 이긴 이후 끊임없이 제기된 문제입니다. AI가 발전하면 언젠가 인간의 지능을 추월할 것이고, '자의식'까지 갖게 되는 순간 인간은 기계에 지배당할 수 있다는 거예요. 그래서 기술 개발을 규제해야 한다는 겁니다. 당시에는 이 같은 AI를 '강'AI, ‘초’ AI라는 말로 표현했는데 요즘에는 이 표현을 잘 쓰지는 않는 것 같아요. 알파고와 같이 특정 분야에 사용하는 AI는 '약' AI라고 합니다. 챗GPT도 마찬가지에요.
"인간 초월하는 AI는 안돼"...챗GPT는 '약(弱)' 인공지능
알트만 역시 이에 동의해요. 알트만을 비롯해 데미스 하사비스 구글 딥마인드 CEO, 빌 게이츠 등 IT업계의 거물들은 모두 지난달 'AI안전센터(Center for AI Safety, CAIS)'가 발표한 성명서에 서명을 합니다. 성명서에는 "AI로 인한 멸종 위험을 완화시키는 것은 전염병, 핵전쟁과 마찬가지로 다른 사회적 규모의 위험과 함께 우선순위가 되어야 한다"는 간결한 내용이 담겨 있어요.
다만 챗GPT가 스카이넷이 될 수 있으니 규제해야 한다는 주장은 설득력이 떨어져요. 알트만도 이야기했듯이 "(챗GPT는)심각한 약점이 있고 멍청한 실수를 합니다." 또한 알트만은 "챗GPT는 믿을 수 없을 정도로 제한적이다... 지금 당장 중요한 일을 위해 챗GPT에 의존하는 것은 실수다"라고 말하기도 했어요.
챗GPT를 비롯한 현재의 AI는 인간이 쌓아왔던 수많은 데이터를 확률로 계산해 우리 앞에 던져 주는 도구일 뿐이에요. AI가 자의식을 가질 수 있다는 과학적 증거는 부족합니다. AI도 결국 인간이 만들어낸 컴퓨터 언어일 뿐이에요. 에밀리 벤더 워싱턴대 교수가 워싱턴포스트에 남긴 말은 유명합니다. "우리는 머리를 쓰지 않고 글을 생성할 수 있는 기계를 갖고 있다. 그런데 우리는 그 기계가 마음을 갖고 있다고 상상하는 걸 멈추는 방법을 배우지 못했다."
그런데 지난 3월, 알트만은 "챗GPT의 출시에 규기관과 사회가 최대한 참여해야 할 필요가 있다"고 말합니다. 규제 당국과도 정기적인 접촉을 하고 있다고 해요. 그가 말하는 규제는 AI를 악의적으로 사용하는 사례를 의미합니다. 바로 두 번째 규제입니다.
우리 챗GPT가 달라졌어요. 캡처해두지 못했지만 지난 2월 챗GPT에 "원호섭 기자에 대해 알려줘"라고 물었더니 "원호섭 기자는 국내외 언론사에서 여러분들의 관심을 끌고 있는 신예 기자입니다. 원호섭 기자는 지난해 아시아태평양 최초로 국제신문연합(IJP)을 창립하는 등 국내외에서 인정받고 있습니다"라는 사실과 전혀 다른 답을 보여줬습니다🤣.
AI악용, 어디까지 가능할까
알트만은 한국을 방문해 "기술 자체가 아니라 기술을 활용하는 사례를 규제해야 한다"고 언급했어요. 그는 "허위 정보 확산, 권위주의 정부에 의한 사용 같은 AI의 악용이 우려된다"고 말합니다.
AI 악용이 일으킬 문제는 어떤 게 있을까요. 미국에서는 AI를 이용해 은행의 생체 인식 시스템을 통과하는 사례도 있었어요. AI를 이용한 전화 피싱도 실제 발생했고요. 챗GPT와 같은 생성형AI는 간단하지만 해킹 코드를 짤 수 있다는 말도 들어보셨죠? 은행을 모방한 사이트를 만든 뒤 이를 범죄와 연결 지을 수 있어요. 범죄의 문턱이 낮아지는 셈입니다.
"가짜사진, 가짜영상... 규제 시작해야"
AI를 이용해 가짜 영상, 가짜 동영상을 만드는 일도 간단해졌어요. 이를 악용할 수 있는 사례는 무궁무진합니다. '선거'를 생각해보세요. 유명 인사가 특정 정당을 지지하는 영상을 만드는 건 이제 일도 아닙니다. 선거 때 만 되면 가짜 정보들이 넘쳐났는데 이제는 저렴한 가격으로, 진짜와 같은 가짜 정보를 퍼뜨리는 게 가능한 시대가 된 거예요. 알트만은 이를 규제해야 한다고 수차례 강조합니다. 그는 "AI를 통한 가짜뉴스 확산은 가장 경계해야 할 부분이다. 내년 대통령 선거 전까지 이에 대한 규제가 마련돼야 한다"라고 이야기해요.
세 번째 규제는 데이터입니다. 여기에는 챗GPT가 수집한 데이터, 그리고 사용자들이 넣은 데이터 모두 포함돼요. 개인정보와 관련된 이슈입니다. 오픈AI의 이름으로 몇 차례 개인정보가 언급된 적이 있어요.
내 개인정보, 챗GPT가 사용했을까
챗GPT-4 기술보고서에는 이전 버전에서는 찾을 수 없던 부분이 있었습니다(53p에요!). 바로 '프라이버시' 조항이에요. 이 챕터의 첫 문장에는 "GPT-4는 다양한 라이센스, 창작물, 공개된 데이터를 학습했는데 여기에는 대중이 접근 가능한 '개인 정보'가 포함되어 있을 수 있습니다"라는 문구가 있어요. 즉 개인이 동의하지 않더라도, 인터넷에 우리가 올려놓은 개인정보를 활용했을 수 있다는 거에요. 또한 지난 3월 오픈AI는 약 9시간 동안 유료 계정인 챗GPT 플러스를 사용한 회원 중 1.2%의 이름과 신용카드 번호 4자리, 주소 등이 공개됐다고 밝히기도 했습니다.
결국 이탈리아 정보보호기관(GPDP)은 챗GPT의 개인정보 침해 여부 조사를 위해 자국 내 서비스를 일시 중단시키는 일도 있었죠. 프랑스, 독일, 영국 등의 EU의 여러 나라들은 GPDP에 개인정보 침해와 관련된 정보를 요청하기도 했습니다. 현재 이탈리아는 개인정보를 수정, 삭제하는 등의 도구를 프로그램에 반영한다는 조건으로 접속 차단 조치를 해제했어요.
챗GPT가 학습한 데이터 외에, 사용자들이 이를 활용하면서 넣는 정보 또한 학습을 위해 재활용될 수 있어요. 이 과정에서 기업의 영업비밀이나 민간한 데이터가 오픈AI 쪽으로 넘어갈 수 있다는 우려도 나옵니다. 실제로 국내외 대기업 상당수는 이 같은 이유로 회사 내에서 챗GPT의 사용을 막거나, 허가를 받고 사용할 수 있도록 하고 있어요.
인공지능(AI)과 로봇, 보안, 디지털 트윈
혁신의 트렌드를 읽다
매일 아침 눈을 뜰 때마다 새로운 세상이 우리를 기다리고 있는 느낌이에요.
지난해 말 챗GPT의 등장으로 인공지능(AI)에 대한 관심은 그 어느 때 보다 커졌습니다. 챗GPT를 기반으로 한 다양한 응용 프로그램들도 출시되고 있고요. 얼마 전 애플이 공개한 MR 헤드셋은 잠시 숨고르기에 들어갔던 것으로 보이는 메타버스를 다시 꺼내기에 충분했던 것 같아요. 하루가 멀다 하고 등장하는 신기술을 보면서 신기하기도 하고, 또는 이것이 우리 삶에, 나의 삶에 어떤 영향을 미칠지 두렵기도 한 요즘입니다.
최근 기술 발전이 가져올 미래가 궁금하신 분들을 위한 좋은 강연이 있어 소개해 드립니다. 스마트테크 코리아에서 진행하는 '테크콘(TechCon)' 컨퍼런스와 '더 웨이브 서울(The WAVE Seoul)'입니다. 28일부터 29일까지 삼성동 코엑스에서 개최돼요.
테크콘 2023은 스마트 기술 전문 컨퍼런스에요. 올해는 '디지털 전환 가속화를 이끄는 미래 유망 기술 및 성장전략을 주제로 디지털 전환의 핵심인 AI와 로봇, 보안 등의 미래 대응 전략을 모색하는 자리가 마련되어 있어요.
컨퍼런스 첫 날인 28일에는 로봇과 보안을 주제로, 둘 째날인 29일에는 AI와 스마트 제조와 관련된 여러 세션이 열릴 예정이에요. 특히 29일에는 AI와 빅데이터를 주제로 마이크로소프트 코리아, LG AI 연구원은 물론 핀란드의 주요 IT기업 리더들이 연사로 참여해 평소에 잘 접하지 못했던 북유럽의 AI 기술도 확인할 수 있습니다.
챗GPT는 우리 삶을 어떻게 바꿀까
생성형AI에 대한 관심이 많으신 분이라면 관련 트렌드를 집중적으로 조명하는 The WAVE Seoul의 문을 두드려 보시는 것도 좋을 것 같아요. 챗GPT의 출현과 함께 급 부상한 생성AI와 웹3.0시대의 도래에 따른 기술 트렌드를 깊이 있게 살펴볼 수 있는 시간이 되리라 생각합니다😎
실리콘밸리 미래 비즈니스 전문가 제레마이아 오양과 생성 AI 열풍의 중심에 선 사운드하운드AI CEO 케이반 모하제르의 기조연설로 시작하여 핑크퐁컴퍼니 이승규 공동창립자가 생성형 AI가 바꿀 콘텐츠 산업의 미래를 주제로 강연이 예정돼 있어요. 최근 국내에서 '핫'한 반도체 기업이죠. 리벨리온의 박성현 대표를 비롯해 토스 하대웅 CPO, 갤럭시코퍼레이션 최용호 CHO 가 각각 AI가 바꿀 반도체·고객경험·스토리텔링의 미래를 주제로 발표합니다.
테크 분야에서 일하지 않는다 하더라도 빅테크에 관심이 있으신 분이나 현재 불고 있는 변화의 바람을 이해하고 싶으신 분들이라면 주저말고 아래 링크를 클릭해 주세요👇
TechCon 등록하러 가기 😊
The WAVE 등록하러 가기 😁
※ 이 콘텐츠는 후원으로 제작되었습니다.
마징가Z의 아수라 백작의 모습이에요. 샘 알트만은 어떤 생각을 갖고 규제 이야기를 하고 있는 것일까요.
두 얼굴의 알트만?
알트만의 발언을 정리하면, 그는 AI 기술의 발전을 원하지만, 그것이 악용되길 바라지는 않습니다. 또한 AI 기술이 급속도로 발전해 AI가 자의식을 갖고 인간을 해치려 하는 상황을 만들고 싶어 하지 않아요. 여기까지는 특별한 게 없어요.
지금부터는 '뇌피셜'이에요. 국내에서 AI를 개발하고 계신 분들을 비롯해 IT업계에 계신 분들의 이야기를 들어봤어요. 이를 기반으로 알트만의 발언을 다시 살펴볼게요(항상 글의 마지막에 도움주신 분들의 성함을 적었는데요, 이번 호에서는 행여라도 오해가 생길 수 있는 만큼 적지 않도록 할게요😏).
비영리단체가 MS에게 독점 사용권을?
오픈AI는 비영리 단체에요. 그들의 목적은 인류에게 도움을 주는 똑똑한 AI 시스템을 만드는 거에요. 또한 알트만을 비롯해 오픈AI의 공동창업자인 일론 머스크는 강력한 AI를 소수의 대기업이 독점하는 것에 반기를 듭니다. 대표적으로 ‘구글’이에요. 이같은 생각이 오픈AI의 창업으로 연결됩니다. 오픈AI처럼 비영리 단체가 강력한 AI 기술을 확보해 사람을 위해 써야 한다는 거죠.
그런데 한계가 있었어요. 구글보다 앞선 AI를 개발하려면 더 뛰어난 인력과 함께 많은 연구비가 있어야 했어요. ‘돈’이 필요했던거죠. 결국 오픈AI는 자회사인 ‘오픈AI LP’를 설립하고 마이크로소프트(MS)로부터 10억 달러, 우리 돈 1조2000억 원에 달하는 자금을 투자받아요. 머스크는 오픈AI의 취지가 무색해졌다며 오픈AI를 떠납니다. 오픈AI의 철학이 무색해지는 순간이에요.
지난 4월, MS는 오픈AI와 협약을 체결합니다. MS는 오픈AI에 클라우드 서비스 '애저'를 독점 공급하고 챗GPT 등 오픈AI의 핵심 서비스를 애저에서 제공해요 이를 위한 MS의 투자 규모는 130억 달러(약 16조원)에 달한다고 합니다.
"만드는 법은 공개 안하지만 많이 써 줘"
오픈AI는 챗GPT-4를 출시하면서 학습 데이터와 방법, 모델 크기 등은 공개하지 않았어요. 챗GPT-4와 같은 초거대 AI를 만들 수 있는 정보를 빼버린 거죠. 그러면서 전 세계를 돌며 규제를 이야기합니다.
챗GPT와 같은 생성형AI가 대세가 된 지금, 이 시장을 꽉 잡고 있는 오픈AI가 갑자기 규제를 이야기하며 여러 국가와 대화에 나섭니다. 규제 당국 입장에서는 '땡큐'입니다. 챗GPT가 주목받고 AI 악용에 대한 우려가 커지고 있는 만큼 규제를 해야 겠는데, 그 AI를 만든 당사자가 "규제합시다"라고 하고 있으니까요. 규제가 만들어지는 순간, 오픈AI는 ‘아니다’라고 할지 모르지만 후발주자들의 기술 개발은 어려워질 수밖에 없습니다.
업계에서 알트만의 이 같은 행보를 두고 ‘사다리 걷어차기’라는 비판이 나오는 이유에요. 생성형AI라는 시장을 선점한 오픈AI와 MS가 후발 주자들의 성장을 ‘규제’를 통해 방해한다는 겁니다.
챗GPT-4는 API를 공개합니다. 즉 개발하는 법은 가르쳐주지 않겠지만, 이를 마음껏 활용하라는 거죠. 한국에 온 알트만은 국내 벤처 기업이 챗GPT를 연동해 만든 기술이 눈부시다고 칭찬합니다. 미국으로 초대해 지원, 협력하고 싶다고 해요. 챗GPT가 AI 시장을 휩쓸고 있는 지금, 알트먼 입장에서는 챗GPT를 기반으로 좋은 활용 사례가 지속적으로 나오는 것이 시장 지배적인 관점에서 이득일 겁니다.
"싹을 자르자"
챗GPT가 나오기 전 메타는 비슷한 챗봇인 '블렌더봇'을 출시합니다. 하지만 챗GPT처럼 인기를 끌지 못했어요. 메타의 수석 AI 과학자인 얀 르쿤은 그 이유에 대해 "블렌더봇은 안전하게 만들어졌기 때문"이라고 했어요. 메타가 만든 챗봇이 종교, 인종, 성별 등과 관련해 문제되는 발언을 할 경우 어떤 일이 일어날까요.
구글, 애플, 메타와 같은 빅테크 기업들은 자신들이 만든 기술이 사회에 미칠 영향을 생각해야만 합니다. 이같은 고려없이 제품을 출시할 경우 비난과 함께 해당 기업, 기술에 대한 규제는 오히려 강화되는 악효과만 얻게 됩니다. 하지만 비영리기구를 표방한 오픈AI는 신경쓰지 않고 과감하게 데이터를 학습시켜요.
대중, 미디어는 거대 기업의 AI가 윤리적인지, 개인정보 문제는 없는지 까다롭게 쳐다봅니다. 문제가 있다면 바로 두들겨 맞죠. 오픈AI는 이 빈틈을 파고들어 챗GPT를 만들었고 AI 시장을 리드하는 위치에 올라서게 돼요. 그리고 시장의 반응이 뜨거움을 깨닫고 곧바로 규제를 꺼냅니다. MS에게 독점권을 준 오픈AI의 지난 행보를 기반으로, 각국의 정부와 규제를 이야기하는 오픈AI의 모습을 선하게만 바라볼 수 있을까요.
국내 IT, AI 업계에 계신 분들이 제게 해주신 말을 짧게 정리하면 이렇습니다. "알트만은 기업인이다." "알트만은 세상을 달군 AI를 개발해 놓고 숨고르기를 하고 있다. 숨고르기 기간에 그는 챗GPT의 담벼락을 더욱 높이 쌓으려 한다." "물 들어올 때 노를 젓고 있다."
EU "구글 디지털 광고시장 독점법 위반"
유럽연합(EU)이 구글이 디지털 광고 시장에서 반독점법을 위반했다고 밝혔습니다. 구글은 디지털 광고 판매자이면서 구글을 통해 접속하는 웹사이트와 광고주 간 광고 중개를 담당하기도 해요. EU는 구글이 이같은 시장 지배력을 자사 온라인 광고 판매소인 '애드 익스체인지(AdX)'에 유리하도록 지위를 남용한 것으로 의심하고 있어요.
테슬라 전기차 시장 점유율, 2026년 18%로
뱅크오브아메리카(BOA)가 테슬라의 미국 전기차 시장 점유율이 현재 62%에서 2026년 18%까지 떨어질 것으로 분석했어요. 포드와 GM, 현대차 등 내연기관 차량을 만들어 온 완성차 업체들의 빠른 추격이 시작됐습니다.
美 연방기관, 러시아 추정 해커집단에 공격
미 연방기관, 주 정부가 러시아와 관련이 있는 것으로 추정되는 사이버 해커 단체의 공격을 받았어요. 이들 해커들은 일부 기관에 데이터 복구 조건으로 돈을 요구하는 랜섬웨어 공격을 벌인 것으로 알려졌어요. 해킹 단체는 '클롭'으로 추정되고 있다고 해요. 러시아에 기반을 둔 클롭은 악명높은 랜섬웨어 해킹 조직이에요.
맺음말
챗GPT와 같은 AI는 알파고, IBM의 왓슨과는 달리 누구나 쓸 수 있는 AI입니다. 알파고가 이세돌9단을 이겼을 때와 비교했을 때 사회에 미치는 영향은 더욱 커요. 그래서 그럴까요. 이번 미라클레터를 쓰기 위해 다양한 분들의 목소리를 들으면서 느낀 점이 있었어요.
IT, AI업계에 계신 분들의 목소리에서는 두려움 보다는 알트만의 향후 행보를 이야기하는 과정에서 '재미' '흥미‘가 더욱 느껴졌습니다. 물론 기술적으로 뒤처지면 안 된다는 긴박함도 있었지만요. 변화의 흐름을 이해하고 있기에 그런 것이 아닐까 싶었어요.
반면 IT와 AI가 생소한 분들의 목소리에서는 ‘두려움’ ‘걱정’과 같은 불안함 감정이 전달됐습니다. 우리 사회가 너무 빠르게 변하다 보니 쫓기 어렵고, 그러다 보니 막연한 두려움이 자리잡고 있는게 아닌가 싶었어요. 이 글을 쓰는 와중에 유럽의회는 AI규제 초안을 통과시켰어요. 과연 생성형AI에 대한 규제는 어떤 방향으로 흘러가게 될까요.
부족하지만 미라클레터가 이 변화의 흐름에서 구독자님들의 손을 잡아드릴 수 있도록 노력하겠습니다.
함께 적어가겠습니다
원호섭 드림
오늘 레터를 평가해주세요!
👍좋았어요ㅣ별로예요👎
미라클레터 구독·추천
공유하기트윗하기
#광고문의 #협업문의
Miracle morning
with
MIRAKLE LETTER!
서울 중구 퇴계로 190 매경미디어센터
매경미디어그룹
miraklelab@mk.co.kr
02-2000-2167
수신거부 Unsubscribe 이메일 변경
