Mon histoire d'échecs et d'apprentissages dans le développement de produits d'IA

Environ deux ans après avoir été frappé par le choc de ChatGPT, j'ai créé plusieurs produits en tant qu'individu ou en petite équipe. Cependant, tous ont échoué en termes de monétisation, et ont abouti à un retrait. Parmi ceux-ci, je présenterai les principaux, ainsi que le contexte de l'époque, et je reviendrai sur les raisons de leur retrait.

La raison pour laquelle je publie cette histoire d'échecs est que j'espère qu'elle servira de référence pour ceux qui se lancent également dans le domaine de l'IA. De plus, je souhaite également transmettre la nécessité de la création de mon produit actuel, « Evame », auquel je suis finalement parvenu grâce à ces expériences.

Ce que j'ai créé dans le passé

Agent IA Autonomix (2023/02~04)

Situation de l'époque

En février 2023, je suis devenu chômeur LLM.

J'ai réalisé pour la première fois le potentiel des LLM avec GitHub Copilot, sorti en juin 2021. Au début, il s'agissait d'un support très limité, mais au début de l'année 2022, il avait évolué au point de réduire de 20 à 30 % la saisie manuelle de code, et même moi, un ingénieur web qui ne connaissait pas grand-chose à l'apprentissage automatique, j'ai clairement senti l'avenir.

J'ai été fasciné par les LLM, mais à l'époque, les offres d'emploi liées aux LLM étaient principalement destinées aux chercheurs, et il était difficile pour les ingénieurs web d'y entrer.

Et comme beaucoup de gens, en novembre 2022, j'ai été convaincu que « le monde avait changé » avec l'arrivée de ChatGPT. J'ai proposé un projet LLM à mon entreprise et j'en ai discuté avec le président pendant environ un mois, mais mon exposé était immature et je n'ai pas réussi à faire bouger l'entreprise.

J'ai décidé de créer un produit moi-même et, en février 2023, j'ai démissionné de mon entreprise. À l'époque, le boom des LLM n'était pas aussi important qu'aujourd'hui, mais en approfondissant mes échanges avec certaines personnes enthousiastes sur X (Twitter), j'ai senti que les agents d'IA deviendraient le courant dominant à l'avenir.

Lorsque j'ai publié une LP avec le concept de « remplacer le travail », plus de 500 personnes se sont immédiatement inscrites sur la liste d'attente, et j'ai ressenti un besoin clair, et c'est Autonomix que j'ai développé.

Aperçu du produit

Agent IA qui exécute automatiquement des instructions de chat → réponses par e-mail, publications sur les réseaux sociaux, etc. via des API telles que Zapier.

Raison du retrait

C'est un problème courant avec les produits d'IA, mais je suis tombé dans un bourbier où un prototype attrayant peut être réalisé rapidement, mais il faut un temps et des coûts infinis pour améliorer sa précision.

Problèmes techniques spécifiques :

1. Le taux de réussite ne reste qu'à environ 80 %, ce qui n'est pas acceptable pour une utilisation pratique.

2. L'appel d'outils externes de GPT-4 est instable. À la suite de tentatives répétées et de sécurités intégrées, la logique est devenue énorme et le coût a explosé avec plusieurs appels LLM. Envoyer un e-mail coûte à lui seul 3 yens par fois.

Cependant, il y avait un problème plus fondamental. Pour réaliser une UX vraiment facile à utiliser, elle devrait fonctionner directement dans des plateformes telles que Gmail et Twitter. Et il n'y a aucune raison pour que Google et Twitter ne fournissent pas cette fonctionnalité.

Ayant à la fois des problèmes techniques et stratégiques, j'ai jugé que « je ne peux pas battre Big Tech ». J'ai décidé de me retirer.

Bot Line Talk-chan (2023/04~08)

Situation de l'époque

Après l'échec d'Autonomix, j'ai profondément ressenti les limites des logiciels d'outils. Pour reprendre un terme souvent utilisé dans les startups, il n'y a pas de Moat (avantage concurrentiel). En fin de compte, si Google et Microsoft s'y mettent sérieusement, ils offriront gratuitement des fonctionnalités équivalentes ou supérieures.

J'ai donc changé de stratégie et j'ai cherché un domaine dans lequel Big Tech aurait du mal à entrer. C'était le divertissement, en particulier le domaine des personnages d'IA. Dans ce domaine, ce n'est pas simplement en investissant des fonds que l'on peut créer quelque chose de bien, mais les éléments plus humains et créatifs tels que l'attrait du personnage et la construction de relations avec les utilisateurs deviennent importants. J'ai pensé que j'avais encore une chance ici.

Il existe deux approches principales pour les personnages d'IA. Il y a le type de plateforme comme Character.ai où les utilisateurs créent eux-mêmes des personnages, et le type de contenu où l'équipe de gestion prépare des personnages attrayants. J'ai choisi ce dernier. Je voulais créer une IA comme Doraemon qui encourage les utilisateurs et soutient leur croissance.

À l'époque, il n'y avait pas de mot comme RAG, et il n'y avait pas non plus d'IA avec une mémoire à long terme. J'ai pensé que si j'appliquais les compétences que j'avais acquises jusqu'à présent, je pourrais avoir une mémoire à long terme, et que la relation construite grâce à cela deviendrait un Moat. Et c'est Talk-chan que j'ai développé.

Aperçu du produit

Un ami IA avec une mémoire à long terme. Les données de conversation stockées dans une base de données vectorielle ou une base de données de graphes sont recherchées de manière hybride et conversent tout en se référant à ce que l'on appelle maintenant RAG.

Raison du retrait

Il y avait quelques utilisateurs qui payaient, mais cela n'a pas atteint un niveau où l'entreprise pouvait continuer. Il y avait deux problèmes fondamentaux.

Tout d'abord, le problème des coûts. Pour réaliser une mémoire à long terme, il est nécessaire de se référer constamment aux données de conversation passées, ce qui entraîne une consommation massive de jetons. Pour être rentable, il était nécessaire de fixer un prix d'environ 3000 yens par mois.

Cependant, nous n'avons pas été en mesure de fournir une valeur qui justifie ce prix. En fin de compte, même s'il a une mémoire, c'est une IA qui « peut simplement bavarder ». Nous n'avons pas été en mesure de créer une expérience suffisamment attrayante pour inciter les gens à vouloir l'utiliser même en payant 3000 yens par mois. C'était fatal.

En d'autres termes, même si cela pouvait être réalisé techniquement, nous n'avons pas pu résoudre le problème structurel de « coût élevé et faible valeur ajoutée », et nous avons décidé de nous retirer.

Nous aurions dû supposer l'AVC (Accuracy Value Curve) de la valeur ajoutée réelle que le produit en cours de création peut apporter.

Article de référence

https://note.com/takahiroanno/n/ncb7d77bfd9f1

Peluche IA (2023/08~10)

当時の状況

Après l'échec de Talk-chan, j'ai réfléchi à ce qu'est un « personnage IA qui vaut la peine d'être payé ». En réponse, j'ai porté mon attention sur l'importance de la physicalité.

Au lieu d'un simple chat textuel, la quantité d'informations devient considérablement plus riche avec la voix et le corps. J'ai pensé que cela pourrait valoir la peine d'être payé. J'ai donc décidé de développer une peluche IA qui peut converser et exprimer des mouvements.

Aperçu du produit

Un appareil qui soulage la solitude avec une conversation vocale et des mouvements comiques en équipant une peluche connectée au Wi-Fi d'un microphone, d'un haut-parleur et d'un moteur.

Raison du retrait

En progressant dans le développement, la réalité de l'activité matérielle est apparue. Fabrication, contrôle de la qualité, logistique, support client... C'est un domaine où il faut s'installer pendant 10 ans.

Je me suis donc posé la question : « Est-ce que je veux consacrer 10 ans à cette activité ? »

La réponse était « NON ». La raison est simple : je ne pensais pas que ce produit était vraiment nécessaire au monde. Même si une personne souffrant de solitude est temporairement guérie en conversant avec une peluche, j'ai pensé que ce n'était qu'un traitement symptomatique.

Moi-même, j'ai souffert de problèmes mentaux, dont la maladie maniaco-dépressive. À cette époque, ce qui m'a apporté une solution fondamentale, c'est la sagesse du bouddhisme primitif, centrée sur la méditation appelée Vipassana. La méditation Vipassana est une méthode de pratique que Bouddha a enseignée pour que nous puissions expérimenter l'illumination de manière fiable. Je pensais que ce dont une personne souffrant de solitude a vraiment besoin, c'est d'une sagesse correcte qui soutient la croissance intérieure, y compris la méditation, et non d'un jouet pour se distraire.

En d'autres termes, le Product-Founder-Fit n'était pas du tout respecté. Je ne peux pas consacrer 10 ans à quelque chose en lequel je ne crois pas sincèrement. J'ai jugé cela et j'ai décidé de me retirer.

En rétrospective

Avec le recul, chaque produit n'était pas mauvais. En fait, il existe des produits qui attirent beaucoup d'attention comme Devin et Manus pour les agents d'IA, et il existe de nombreux exemples de réussite pour les personnages d'IA de type contenu comme Ozchat. Il y a aussi des gens qui sont sauvés par des robots de compagnie comme Lovot. Si j'avais continué à travailler sérieusement, j'aurais peut-être pu obtenir des résultats raisonnables.

Ce n'est pas que ces produits étaient mauvais, c'est que ce n'était pas ce que je pensais que je devais vraiment faire.

Hors série - Autres produits expérimentaux

Après cela, tout en travaillant sur des contrats, j'ai créé quelques produits expérimentaux sans penser à la monétisation tout en cherchant ce que je voulais vraiment créer.

IA de sélection de subventions

Je ne l'ai réalisé qu'après avoir démissionné, mais je ne savais pas du tout qu'il existait divers régimes de prestations, y compris l'assurance-chômage. Beaucoup de gens devraient être pareils, et j'ai pensé qu'une IA qui guide vers le régime approprié serait utile.

Cependant, en progressant dans le développement, j'ai jugé qu'il y avait une limite aux LLM actuels car chaque système était trop complexe et il y avait de nombreuses exceptions, et j'ai abandonné.

Article de référence

https://note.com/tkgshn/n/n4fd785cf1381

Extension de traduction

Étant donné que les LLM peuvent faire des traductions plus naturelles que Google Traduction, j'ai développé cela parce que je voulais utiliser la traduction LLM lors de la navigation sur des sites étrangers. Cependant, la traduction de l'ensemble de la page entraînait des frais d'API élevés, et c'était très lent par rapport à Google Traduction, et l'UX était mauvaise pour une utilisation pratique.

IA bouddhiste

Chatbot avec les écritures du canon bouddhique comme source de données. Si vous demandez simplement à l'IA, les enseignements du bouddhisme primitif et les enseignements du bouddhisme mahayana se mélangent et donnent des réponses contradictoires, donc en limitant la source de données, j'ai fait en sorte qu'il réponde uniquement sur la base des enseignements du bouddhisme primitif.

Ce que je crée maintenant - Evame

Situation actuelle

En plus de cela, il y a beaucoup de choses sur lesquelles j'ai travaillé pendant environ une semaine. Ce que j'ai réalisé grâce à ces expériences, c'est que je ne peux pas être sérieux au sujet de quelque chose en lequel je ne crois pas sincèrement. Et ce que je pense vraiment avoir de la valeur, c'est ce qui contribue au bonheur fondamental des gens.

Par exemple, un mécanisme qui réduit considérablement le coût de la vie, une application qui ludifie l'apprentissage de manière amusante, et quelque chose qui transmet la sagesse du bouddhisme, y compris la méditation Vipassana, aux temps modernes.

Concept d'Evame

Alors que je continuais à chercher, j'ai décidé de créer un produit lié à la méditation Vipassana.

Au début, j'ai pensé à créer une IA qui enseigne la méditation Vipassana, mais j'ai repensé cela parce que je pensais que c'était extrêmement difficile. Les conseils de méditation nécessitent une réponse délicate en fonction de la situation individuelle, et une relation de confiance profonde entre l'apprenant et le guide est indispensable.

J'ai donc décidé de publier gratuitement la traduction en langue moderne des enseignements de Bouddha dans leur intégralité.

Les écritures bouddhistes (Tripitaka) sont de précieux documents contenant les enseignements fondamentaux du bouddhisme, mais les traductions japonaises complètes disponibles actuellement sont les dernières datant d'avant et pendant la guerre, et il n'existe pas de traduction complète en langue moderne. De plus, ce qui est publié gratuitement est également limité.

J'ai pensé que si je construisais un système de traduction utilisant LLM et créais un mécanisme permettant aux utilisateurs d'évaluer la traduction et de faire des propositions d'amélioration, je pourrais produire une traduction meilleure qu'auparavant.

Vision actuelle

Tout en mettant l'accent sur les efforts de traduction des écritures bouddhistes, j'ai également pensé à publier des textes du domaine public du monde entier en raison de mon désir de partager largement les connaissances et les histoires du monde entier. Cependant, le coût de la base de données est devenu énorme, et il n'était pas réaliste de le publier gratuitement.

J'ai donc clarifié la politique, et tout en continuant à publier gratuitement des textes du domaine public, y compris les écritures bouddhistes, j'ai décidé d'ajouter une fonction de plateforme de blog où les utilisateurs peuvent publier des articles afin de réaliser une gestion durable.

C'est ce site, Evame, où se trouve cet article maintenant.

Les utilisateurs peuvent simplement écrire des articles ici, et une traduction multilingue est générée automatiquement, et ils peuvent transmettre leurs mots au monde entier.

De plus, vous pouvez utiliser un mécanisme qui améliore automatiquement la traduction. Par exemple, essayez de cliquer sur la traduction affichée en définissant la langue d'affichage de cet article sur une langue autre que le japonais. L'interface utilisateur pour le vote et l'ajout devrait apparaître.

Actuellement, les membres gratuits peuvent écrire des articles dans jusqu'à 2 langues, mais nous prévoyons de monétiser en améliorant les services pour les membres payants, tels que la prise en charge de jusqu'à 4 langues pour les membres payants. Actuellement, la fonction de membre payant n'est pas encore implémentée, mais nous prévoyons de fonctionner avec un tel modèle à l'avenir.

Je veux faire d'Evame une version mondiale de note, et en faire le plus grand site de communauté de blogs au monde, dépassant Medium.

En d'autres termes, Evame est une plateforme qui fournit à la fois la « publication gratuite de contenu du domaine public tel que les écritures bouddhistes » et une « plateforme de blogs multilingues ». Nous fournirons une valeur sociale avec le premier, et réaliserons une gestion durable avec le second. Je pense que cette combinaison nous permettra de continuer à fournir des informations précieuses au monde à long terme.

Même si la monétisation ne se passe pas bien, je continuerai à développer tant que je pourrai continuer. C'est parce que je suis convaincu que c'est nécessaire au monde.

Résumé

La chose la plus importante que j'ai apprise grâce à mes échecs jusqu'à présent, c'est que je ne peux pas travailler à long terme sur quelque chose en lequel je ne crois pas sincèrement.

La faisabilité technique et les besoins du marché sont également importants, mais au-delà de cela, je pense qu'il est absolument essentiel pour les développeurs de vérifier si le « Product-Founder-Fit » est respecté.

J'écrirai plus en détail sur Evame dans un autre article, mais veuillez essayer d'écrire un article une fois.

Merci beaucoup !!!