저의 AI 제품 개발 실패와 배움의 역사

ChatGPT에 충격을 받은 후 약 2년, 개인이나 작은 팀으로 여러 제품을 만들었습니다. 하지만 그 모든 것이 수익화라는 의미에서는 실패였고, 결과적으로 철수했습니다. 그중 주요한 것을 당시 상황과 함께 소개하고, 왜 철수했는지 되돌아보겠습니다.

실패의 역사를 공개하는 이유는, 저와 같이 AI 영역에서 도전하고 있는 사람들에게 참고가 되었으면 하기 때문입니다. 또한, 이러한 경험을 통해 최종적으로 도달한 현재의 제품 'Evame'이 왜 탄생했는지, 그 필연성을 전달하고 싶기 때문이기도 합니다.

과거에 만들었던 것

AI 에이전트 Autonomix (2023/02~04)

당시 상황

2023년 2월, 저는 LLM 무직이 되었습니다.

처음 LLM의 가능성을 실감한 것은 2021년 6월에 릴리스된 GitHub Copilot입니다. 처음에는 아주 국소적인 지원이었지만, 2022년 초쯤에는 코드의 수동 입력을 2~3할 줄일 정도로 진화하여, 머신 러닝에 대해 잘 모르는 웹 개발자인 저도 분명히 미래를 느꼈습니다.

저는 LLM에 매료되었지만, 당시 LLM 관련 구인은 연구자가 주였고, 웹 개발자의 참여는 어려웠습니다.

그리고 많은 사람들과 마찬가지로, 2022년 11월, ChatGPT의 등장으로 '세상이 바뀌었다'고 확신했습니다. 근무하는 회사에 LLM 사업을 제안하고, 1개월 정도 사장과 논의를 거듭했지만, 저의 발표가 미숙했던 탓도 있어 회사를 움직이는 데에는 이르지 못했습니다.

저는 스스로 제품을 만들기로 결심하고, 2023년 2월, 회사에 퇴직을 신청했습니다. 당시에는 LLM 붐이 지금만큼은 아니었지만, X(Twitter)에서 열광하고 있는 일부 사람들과 교류를 깊게 하는 가운데, AI 에이전트가 앞으로 주류가 될 것이라고 느꼈습니다.

'업무를 대체한다'는 컨셉으로 LP를 공개했더니 곧바로 500명 이상이 대기자 명단에 등록되어, 명확한 니즈를 느끼고 개발한 것이 Autonomix입니다.

제품 개요

Zapier 등의 API를 통해, 채팅 지시 → 메일 회신・SNS 게시 등을 자동 실행하는 AI 에이전트.

철수 이유

AI 제품에 흔히 있는 일이지만, 매력적인 프로토타입은 금방 만들 수 있지만, 거기서부터의 정밀도 향상에 무한정 시간과 비용이 드는, 그런 늪에 빠졌습니다.

구체적인 기술적 과제:

1. 성공률이 약 80%에 머물러, 실무 이용으로 허용할 수 없다.

2. GPT-4의 외부 도구 호출이 불안정하다. 재시도나 페일 세이프를 거듭한 결과, 로직이 비대화되어, 여러 번의 LLM 호출로 비용이 팽창. 메일을 보내는 것만으로 한 번에 3엔이 든다.

하지만, 보다 근본적인 문제가 있었습니다. 진정으로 사용하기 쉬운 UX를 실현하려면, Gmail이나 Twitter 등의 플랫폼 내에서 직접 동작해야 합니다. 그리고, Google이나 Twitter가 이 기능을 제공하지 않을 이유가 없습니다.

기술적 과제와 전략적 과제를 모두 안고, 'Big Tech를 이길 수 없다'고 판단. 철수를 결단했습니다.

라인 봇 토크쨩 (2023/04~08)

당시 상황

Autonomix의 실패를 통해, 저는 도구형 소프트웨어의 한계를 절감했습니다. 스타트업에서 자주 사용되는 말로 표현하면 Moat(경쟁 우위성)가 없다. 결국, Google이나 Microsoft가 작정하면 동등 이상의 기능을 무료로 제공해 올 것이다.

그래서 전략을 변경하여, Big Tech가 참여하기 어려운 영역을 찾았습니다. 그것이 엔터테인먼트, 특히 AI 캐릭터 분야였습니다. 이 영역이라면, 단순히 자금을 투입하면 좋은 것을 만들 수 있는 것이 아니라, 캐릭터의 매력이나 사용자와의 관계 구축과 같은, 보다 인간적이고 창의적인 요소가 중요해진다. 여기라면 아직 승산이 있다고 생각했습니다.

AI 캐릭터에는 크게 두 가지 접근 방식이 있습니다. Character.ai처럼 사용자 스스로에게 캐릭터를 만들게 하는 플랫폼형과, 운영 측이 매력적인 캐릭터를 준비하는 콘텐츠형입니다. 저는 후자를 선택했습니다. 도라에몽처럼, 사용자를 격려하고 성장을 지원하는 AI를 만들고 싶었기 때문입니다.

당시에는 RAG라는 말도 없었고, 장기 기억을 가진 AI도 없었습니다. 저는 지금까지 익힌 기술을 응용하면, 장기 기억도 가능하고, 그것에 의해 구축되는 관계성은 Moat가 될 것이라고 생각했습니다. 그리고 개발한 것이 토크쨩입니다.

제품 개요

장기 기억을 가진 AI 친구. 벡터 DB나 그래프 DB에 저장한 대화 데이터를 하이브리드 검색, 지금 말하는 RAG로 참조하면서 대화한다.

철수 이유

과금해 주는 사용자도 몇 명 있었지만, 사업으로 지속할 수 있는 수준에는 도달하지 못했습니다. 근본적인 과제는 두 가지 있었습니다.

우선 비용 문제입니다. 장기 기억을 실현하기 위해서는 과거의 대화 데이터를 항상 참조해야 하므로, 토큰 소비량이 방대해집니다. 수지를 맞추려면 월액 3000엔 정도의 요금 설정이 필요했습니다.

하지만, 그 가격을 정당화할 수 있을 만큼의 가치를 제공하지 못했습니다. 결국, 기억이 있다고는 하지만 '그냥 잡담을 할 수 있을 뿐'인 AI입니다. 월액 3000엔을 지불하면서까지 이용하고 싶게 만들 정도의 매력적인 체험을 만들지 못했습니다. 이것이 치명적이었습니다.

즉, 기술적으로는 실현할 수 있어도, '고비용・저부가가치'라는 구조적인 문제를 해결하지 못하고, 철수를 결단했습니다.

만들고 있는 제품이, 실제로 어느 정도의 부가가치를 줄 수 있는 것인지, AVC(Accuracy Value Curve)를 상정해야 했습니다.

참고 기사

https://note.com/takahiroanno/n/ncb7d77bfd9f1

봉제인형 AI (2023/08~10)

当時の状況

토크쨩의 실패를 통해, '돈을 지불할 가치가 있는 AI 캐릭터'란 무엇인가를 생각했습니다. 그 해답으로서, 신체성의 중요성에 착안했습니다.

단순한 텍스트 채팅이 아니라, 목소리나 몸이 있는 것으로 정보량은 훨씬 풍부해진다. 이것이라면 요금에 걸맞은 가치를 느낄 수 있지 않을까. 그렇게 생각하고, 대화가 가능하고 움직임도 표현할 수 있는 봉제인형 AI의 개발을 결정했습니다.

제품 개요

Wi‑Fi 접속의 봉제인형에 마이크, 스피커, 모터를 탑재하여, 음성 대화나 코믹한 움직임으로 고독감을 달래는 디바이스.

철수 이유

개발을 진행하는 가운데, 하드웨어 사업의 현실이 보이기 시작했습니다. 제조, 품질 관리, 물류, 고객 지원... 10년은 엉덩이를 붙이고 임할 필요가 있는 영역입니다.

그래서 자신에게 물었습니다. '이 사업에 10년을 쏟고 싶은가?'

대답은 'NO'였습니다. 이유는 단순하게, 이 제품이 세상에 정말로 필요한 것이라고 생각되지 않았기 때문입니다. 고독에 괴로워하는 사람이 봉제인형과 대화하며 일시적으로 위로받아도, 그것은 대증요법에 불과하다고 생각했습니다.

저 자신, 과거 조울증을 비롯한 정신 문제로 고통받은 경험이 있습니다. 그때 근본적인 해결을 가져다준 것은, 윗빠사나라고 불리는 명상을 중심으로 한 초기 불교의 지혜였습니다. 윗빠사나 명상은, 우리가 확실히 깨달음을 체험할 수 있도록 붓다가 가르쳐주신 실천 방법입니다. 고독에 괴로워하는 사람에게 정말로 필요한 것은, 명상을 비롯한 내적인 성장을 지원하는 올바른 지혜이며, 기분을 달래는 장난감이 아니다, 라고 저는 생각했습니다.

즉, 제품・창업자・적합성이 전혀 맞지 않았습니다. 자신이 진심으로 가치를 믿을 수 없는 것에, 10년을 쏟을 수는 없다. 그렇게 판단하고, 철수를 결정했습니다.

돌아보면

지금 생각하면, 각 제품이 나빴던 것은 아닙니다. 실제로, AI 에이전트에는 Devin이나 Manus처럼 큰 주목을 받고 있는 제품도 존재하고, 콘텐츠형 AI 캐릭터도 오즈챗과 같은 성공 사례는 몇 가지 존재합니다. lovot과 같은 애완 로봇에 구원받고 있는 사람도 있겠지요. 진심으로 계속해서 임했다면, 그 나름의 성과는 낼 수 있었을지도 모릅니다.

이러한 제품이 안 좋았던 것이 아니라, 저 자신이 정말로 해야 한다고 생각하는 것이 아니었던 것입니다.

번외편 - 기타 실험적 제품

그 후, 수탁에 임하기도 하면서, 자신이 정말로 만들고 싶은 것을 모색하면서, 수익화를 생각하지 않고 몇 가지 실험적인 제품을 만들어 보았습니다.

보조금 선정 AI

퇴직 후에 깨달았는데, 실업 보험을 비롯해 다양한 급부 제도가 있다는 것을 전혀 몰랐습니다. 비슷한 사람은 많을 것이고, 적절한 제도를 안내하는 AI가 있다면 도움이 될 것이라고 생각했습니다.

하지만 개발을 진행하면, 각 제도가 너무 복잡하고 예외도 많아, 현재의 LLM으로는 한계가 있다고 판단하고, 단념했습니다.

참고 기사

https://note.com/tkgshn/n/n4fd785cf1381

번역 확장 기능

Google 번역보다 LLM이 더 자연스러운 번역을 할 수 있으므로, 해외 사이트 열람 시에 LLM 번역을 사용하고 싶어서 개발했습니다. 하지만, 페이지 전체를 번역하면 API 요금이 고액이 되는 데다, Google 번역에 비하면 매우 느리고, 실용적으로 사용하기에는 UX가 나빴습니다.

불교 AI

불전의 경장을 데이터 소스로 한 챗봇. 보통으로 AI에 물어보면 초기 불교의 가르침과 대승 불교의 가르침이 혼재되어, 모순된 답변을 하므로, 데이터 소스를 한정함으로써 초기 불교의 가르침만을 바탕으로 해답하도록 했다.

지금 만들고 있는 것 - Evame

현재 상황

이 밖에도, 1주일 정도 임한 것은 대량으로 있습니다. 이러한 경험을 통해 깨달은 것은, 저는 자신이 진심으로 가치가 있다고 믿는 것에만 진심이 될 수 있다는 것이었습니다. 그리고 제가 정말로 가치가 있다고 생각하는 것은, 사람들의 근본적인 행복에 기여하는 것입니다.

예를 들어 생활비를 대폭 삭감하는 구조나, 학습을 재미있게 게임화하는 앱, 그리고 윗빠사나 명상을 비롯한 불교의 지혜를 현대에 전하는 것과 같은 것.

Evame의 구상

모색을 계속하는 가운데, 저는 윗빠사나 명상에 관한 제품을 만들려고 생각했습니다.

처음에는 윗빠사나 명상을 가르치는 AI를 만들려고 생각했지만, 이것은 매우 곤란하다고 생각을 고쳐먹었습니다. 명상 지도는 개인의 상황에 따른 섬세한 대응이 필요하고, 또한 학습자와 지도자 사이의 깊은 신뢰 관계가 불가결하기 때문입니다.

그래서, 붓다의 가르침의 현대어 번역을 전문 무료로 공개하기로 했습니다.

불전(삼장)은 불교의 근본적인 가르침이 담긴 귀중한 문헌이지만, 현재 이용 가능한 전문 일본어 번역은 전전부터 전중의 것이 마지막으로, 현대어로 된 완전한 번역은 존재하지 않습니다. 또한, 무료로 공개되어 있는 것도 제한되어 있습니다.

LLM을 활용한 번역 시스템을 구축하고, 사용자가 번역의 평가나 개선 제안을 할 수 있는 구조를 만들면, 기존보다 뛰어난 번역을 만들어낼 수 있다고 생각했습니다.

현재의 비전

불전 번역에 대한 노력을 중핵으로 삼으면서, 동시에 전 세계의 지식이나 이야기를 널리 공유하고 싶다는 생각에서, 전 세계의 퍼블릭 도메인의 텍스트를 공개하는 것을 생각했습니다. 하지만, 데이터베이스 비용이 방대해져서, 무료로 공개하는 것은 현실적이지 않았습니다.

그래서 방침을 정리하여, 불전을 비롯한 퍼블릭 도메인의 텍스트는 무료 공개를 계속하면서, 지속 가능한 운영을 실현하기 위해, 사용자가 기사를 게시할 수 있는 블로그 플랫폼 기능도 추가하기로 했습니다.

그것이 지금 이 기사가 있는 이 사이트, Evame입니다.

사용자는 여기에서 기사를 쓰는 것만으로, 자동으로 다국어 번역이 생성되어, 전 세계에 자신의 말을 전달할 수 있습니다.

또한, 자동으로 번역이 향상되는 구조를 사용할 수 있습니다. 예를 들어 이 기사의 표시 언어를 일본어 이외로 하고, 표시된 번역문을 클릭해 보세요. 투표나 추가 UI가 나타날 것입니다.

현재 무료 회원은 2개 언어까지 기사를 쓸 수 있지만, 유료 회원은 4개 언어까지 대응하는 등, 유료 회원용 서비스를 충실하게 함으로써 수익화해 나가려고 생각하고 있습니다. 현재는 아직 유료 회원 기능의 구현 전이지만, 장래적으로 이러한 모델로 운영해 나갈 예정입니다.

저는 Evame를 글로벌 버전의 note로서, Medium을 넘는 세계 제일의 블로그 커뮤니티 사이트로 만들려고 생각하고 있습니다.

즉 Evame는, '불전 등의 퍼블릭 도메인 콘텐츠의 무료 공개'와 '다국어 블로그 플랫폼' 양쪽 모두를 제공하는 플랫폼입니다. 전자로 사회적 가치를 제공하고, 후자로 지속 가능한 운영을 실현한다. 이 조합에 의해, 장기적으로 가치 있는 정보를 세상에 계속 전달할 수 있다고 생각하고 있습니다.

만약 수익화가 잘 되지 않더라도, 계속할 수 있는 한 개발을 계속합니다. 이것은 세상에 필요하다고 제가 확신하고 있기 때문입니다.

정리

지금까지의 실패를 통해 배운 가장 중요한 것은, 자신이 진심으로 가치를 믿을 수 있는 것이 아니면, 장기적으로 임할 수 없다는 것입니다.

기술적인 실현 가능성이나 시장의 니즈도 중요하지만, 그 이상으로 '제품・창업자・적합성'이 맞는지 여부가, 개발자에게는 결정적으로 중요하다고 느끼고 있습니다.

Evame에 대해서는 보다 자세히 다른 기사에서 쓰겠지만, 꼭 한번 기사를 써 보세요.

잘 부탁드립니다!!!