Memento mori


개인적인 기록은 직접 쓰지만, 일할 때는 글쓰기를 포함하여 대부분의 업무에서 5개 정도의 AI를 쓰고 있다. 웹 검색과 정보 수집, 교차 검증은 퍼플렉시티(Perplexity), 홈페이지 개발 작업과 코드 작성은 클로드(Claude), 자료 정리와 콘텐츠 생성은 젠스파크(Genspark), 그 외 기획이나 문서 작성, 아이디어 발상 등은 클로드와 ChatGPT의 도움을 많이 받는다.

각 모델마다 특화된 기능과 강점은 달라도, 전 세계 인류가 축적해 온 방대한 지식과 정보를 압축하여 활용할 수 있다는 점에서 실무 효율이 좋다. 체감상 2시간 걸리던 일도 30분으로 줄었고 새로운 아이디어를 빠르게 제안해줘서 무슨 일이든 10분 이내로 준비할 수 있다. 그래서 데이터 분석, 디자인, 마케팅, 번역, 세미나 기획, ppt 자료제작, 사이트 제작 등 3~4명이 분담해야 할 일을 나 혼자 하는 것이다. (정신 없고 골머리 아픔...)

구글이랑 마이크로소프트에서 공개한 자료에서 AI 학습 및 추론에는 상당한 양의 냉각수가 사용된다는데, UC Riverside(Pengfei Li 등, 2023) 연구는 GPT류의 모델에 20~50개 정도의 프롬프트를 넣으면 약 500ml 가량의 물이 쓰인다고 계산했다. 질문 하나당 대략 10~25ml 정도인 것이다.

또 대형 AI 모델 하나를 학습시키는 데 수만 개의 GPU와 수십~수백 GWh 전력이 필요한데, 100GWh는 대략 3만 가구가 1년 동안 사용하는 전력이라고 보면 한 번의 학습에 엄청난 비용을 투자하는 수준이다.

내가 하루에 50건 정도의 프롬프트를 넣으면, 물 사용량은 최소 15ml부터 최대 1~2L(전력 생산+이미지 생성 포함) 사이로, 적게는 컵 한 잔 많게는 생수 몇 병 사이라고 보면 될 것 같다.

당장 나만 해도 이 정도를 소모하는데, 과연 인풋 대비 아웃풋이 나오고 있는가?

경제학에서 가치는 비용 대비 편익(Cost-Benefit Analysis)으로 결정된다. 그러니까 AI가 지속 가능한 기술이 되려면 소비 전력, 냉각수, GPU, 반도체, 데이터센터 건설비, 연구 개발비, 인건비까지 싹 다 고려했을 때 전체 순편익이 +가 되어야 한다.

이를테면 AI 도입 후 대기업이 연간 1조 원을 절감하거나 신약 연구 개발과 승인 속도가 빨라지고 법률 문서 검토 시간이 단축되어 노동 생산성이 매년 증가한다면 (그것을 객관적인 지표와 통계 자료로 증명할 수 있다면) 순이익이 난다고 볼 수 있다.

하지만 시나리오 제안이나 보고서 작성 같은 자잘한 일들을 대체할 순 있어도 해외 사업 진출, 회사 인수 합병과 같은 큰 결정은 경영진의 머릿속에 달려있다. AI가 제안한 좋은 방법이 채택되지 않는다면 아무리 노동력을 효율적으로 활용해도 무용지물인 셈이다.

챗지피티로 재미삼아 잡담을 하거나 심심풀이용으로 때우는 이용자들의 비중이 (70% 이상으로) 높다면 OpenAI입장에서나 데이터가 많이 쌓이니 이득이지, 시장의 관점에서는 수지에 맞지 않는다. 또 용접, 목수, 타일공, 미용사, 수술 집도, 환자와의 의사 소통 같이 AI가 업무 생산성을 높이지 못하는 분야도 각국의 산업과 경제 활동에서 차지하는 비중도 크다.

그래서 오픈 AI, 메타, 구글, 마이크로소프트, 아마존이 무리하게 데이터 센터를 건설하거나 GPU 투자에 비용을 과하게 태워먹는 건 (공급 과잉으로) 적자가 날 수도 있지 않을까 생각해본다. 앞으로 5~10년 동안 AI가 시장에 내놓을 직접적, 간접적 비용이 AI 개발에 들어가는 비용을 얼마나 상회하는지에 달려 있다. 아직은 속단하기 이르다.