Work Worry Wonder : modèle mental IA & SaaS (P2)

Hello, créatures de l'Internet.

Si vous n'avez pas lu la première partie de cet article, c'est par ici :

→ Work Worry Wonder : modèle mental pour IA & SaaS (P1)

J'y explique c'est quoi, un Large Language Model (LLM), et comment utiliser ça dans votre compagnie SaaS.

Maintenant, dans cette deuxième et finale partie, on creuse plus loin :

• Risques de l'IA pour les SaaS
• Coûts & pricing de l'IA pour les SaaS
• Ouverture sur le futur du SaaS dans un monde AI-first

Palmes aux pieds les petits potes : on plonge creux 🤿

2. Worry

Quels risques l’IA présente pour mon SaaS?

Allons-y du micro au macro.

Micro

Pressions de marché

Micro, c’est l’impact immédiat sur votre entreprise. Exemples :

• Est-ce facile pour une petite équipe augmentée par l’IA de copier votre modèle? D'en créer un plus simple, moins cher?
• Est-ce facile pour un gros joueur de transformer votre produit en fonctionnalité native?

Les SaaS risquent de vivre une double pression de marché.

Via le bas : facilité de construire un produit compétiteur au vôtre à faibles coûts. Facilité d’y coller un pricing plus bas, aussi.

Via le haut : facilité pour les incumbents de répliquer votre produit en tant que fonctionnalité native dans le leur. Facilité de le distribuer, aussi. Voir Microsoft Teams vs Slack 👇

Dites-moi, qu’est-ce que vous avez d’unique, difficilement copiable?

Probablement :

• Votre marque
• Votre audience
• Votre équipe
• Votre data

Comment faire pour cultiver et promouvoir ça encore plus?

Quand je roulais Snipcart, y’a ce concept que je répétais souvent :

Be the only, not the best.

Exprimé par Jerry Garcia. Remâché par Srinivas Rao. Repris par Kevin Kelly.

On entre dans une ère d’abondance de contenu génératif, voire générique. Maintenant plus que jamais, ça vaut la peine de réfléchir à ce que vous avez d’unique.

Confidentialité des données & cadre législatif

Vous connaissez Bard, le chatbot de Google? Disponible dans >180 pays — sauf en Europe et au Canada. Pourquoi? Incertitudes législatives.

Si vous comptez exploiter des modèles d’IA propriétaires dans votre SaaS, surveillez l’évolution des réglementations légales. Surtout si votre génération de valeur première passe par ces modèles.

Imaginons un SaaS “mission critique”, i.e. un produit dont l’utilisation impact la santé & la sécurité d’individus ou d’organisation. Rappelons-nous maintenant de la nature probabiliste des résultats de LLMs. Ou de leurs hallucinations. Êtes-vous certains de l’exactitude des réponses fournies par le modèle? Quand la sécurité de quelqu’un en dépend, qu’est-ce qu’un taux d’exactitude acceptable? Avez-vous des responsabilités légales liées à ça?

C’est le temps d’y penser. Vous pouvez y’aller YOLO. Et peut-être perdre la face, ou plus, comme cet avocat débarré.

Tant qu’à y être, prenez le temps de jeter un oeil aux LLMs verticaux. i.e. des modèles qui concentrent leur data, ajustements, entraînement sur une industrie spécifique, comme :

• Hippocratic 🏥
• Galactica 🧪

Finalement, réfléchissez à deux fois avant de passer de l’information privée d’utilisateurs via l’API de OpenAI ou autre. On entraîne ces modèles avec l’info qu’on entre dedans — elle pourrait donc être régurgitée plus tard. Comme avec les médias sociaux, quand c’est gratuit, on est le produit.

La politique d’API de OpenAI se veut rassurante, mais est criblée de nuances et d’ouvertures. Je commence à entendre quelques SaaS mentionner l’inquiétude de clients enterprise par rapport à ça.

Coûts & pricing

À moins d’avoir hérité sur un sacré temps, vous n’avez probablement pas assez de cash pour développer votre propre infrastructure de LLM. ChatGPT coûte 700K USD par jour à rouler. C’est plus que du Fck you money* ça; c’est du GPU money.

Y’a sûrement deux patenteux hardcore dans les commentaires qui vont s’exclamer :

ACTUALLY, tu peux rouler tel open-source LLM sur ta machine Linux. Je l’ai connecté à ma porte de garage via mon Raspberry Pie et ça m’envoie des SMS de bienvenue chaque fois que je stationne mon char.

I guess? Dites-m’en plus en commentaires ou DMs si vous voulez!

La plupart des SaaS risquent d’employer des services cloud populaires, supportés, documentés, évoluant rapidement. Dans cette optique-là, vous allez devoir 1) évaluer vos dépendances plateformes (platform risk), et 2) comprendre et adapter le pricing des modèles utilisés.

1. Dépendance de tierces-parties

En 2012, Google a introduit son “Knowledge Graph” avec des réponses riches directement dans les résultas de recherche. Les dommages collatéraux? Un paquet de sites vivant du trafic organique créé par des requêtes comme “BEYONCÉ AGE” ou “WW2 DATES”.

Ces sites-là avaient une dépendance critique envers une plateforme de tierce-partie — Google. La tech propriétaire a changé, leur modèle ne fonctionnait plus dans le nouveau paradigme de recherche.

On a vu des histoires d’horreur similaires partout sur le web. Augmentations des prix d’accès aux APIs des grosses plateformes (Reddit, Twitter) pour les développeurs tierces-parties. Ou, carrément, fermeture de certains APIs. Un petit changement aux politiques des géants, et des applications et compagnies meurent d’un coup.

Ah, sans oublier les fameux “app stores” ou “marketplaces”. La promesse d’une giga-distribution built-in pour ton app est alléchante, certes. Mais je pense qu’une couple d’entrepreneurs auraient d’intéressantes histoires à conter sur certaines décisions des Shopify ou Amazon de ce monde.

1. Prix des LLMs

La majorité des coûts de LLMs fonctionnent avec des "tokens”. Si ça ne sonne aucune cloche, lisez ça, ou regardez ça.

On parle un peu de gestion du pricing pour IA dans ces deux épisodes du pod :

• Ep.6 - Financement, Produit vs. Service, SaaS AI
• Ep.13 - AI & SaaS vertical

→ Pricing de OpenAI

En gros, c’est de bien comprendre comment fonctionne la tarification par tokens et/ou appels d’API. Ensuite, s’agit de modéliser et de monitorer l’utilisation que vous et vos utilisateurs ferez de ces services. Finalement, il faut designer un tiers de pricing qui non seulement couvre vos coûts (ça c’est mon bootstrapped bias), mais qui exprime bien la valeur générée pour vos utilisateurs. Finalement, le prix explicite ou implicite de vos fonctionnalités AI doit correspondre aux attentes de vos utilisateurs spécifiques.

Si vous implantez du AI, avez-vous le pricing model vraiment bien compris? Avez-vous assez d’expertise in-house pour gérer voire créer vos propres modèles?

Macro

Au niveau macro, c’est votre industrie et votre société.

Pas besoin d’aller dans les risques existentiels.

Mais vous avez quand même la responsabilité de réfléchir au reste. D’estimer comment ces modèles, ou même votre utilisation de ces modèles, va refaçonner votre industrie ou votre société.

Comment le marché de l’emploi va changer? Comment les fondamentaux de votre société peuvent changer?

Les médias et magazines papier riaient du email et de l’internet avant que ça explose. Les maisons d’édition ont pétitionner et lobbyer pendant des années après l’arrivée des torrents, avant que Spotify trouve une solution moderne à un problème de nouvel ordre. Quand le génie sort de la bouteille, il ne retourne plus dedans.

Source

3. Wonder

Comment mon SaaS peut évoluer via l’IA?

On vit une révolution technologique qui ouvre un paquet d’opportunités. C’est le temps de rêver et de brainstormer, de questionner sa vision 1, 2, 3, 5 ans.

Pensez aux changements fondamentaux qui prennent place. L’interface d’agent conversationnel explose, adopté à une vitesse incroyable.

Comment est-ce que vos utilisateurs peuvent accomplir leurs objectifs via un interface chat?

Les modèles de LLM réussissent à extraire des idées, des réponses, des corrélations super utiles — si on leur donne assez de data, assez qualifiée, avec des instructions peaufinées.

Y’a des modèles open source, des propriétaires, des plus chers que d’autres. Les datasets propriétaires de grande qualité (niche) ou de grand volume prennent de plus en plus de valeur — avez-vous la capacité d’amalgamer et de structurer votre dataset? Pour vous seuls, vos utilisateurs, ou même des tierces parties?

Si vous recommenciez à neuf aujourd’hui, comment utiliseriez-vous les modèles de AI pour construire votre solution, votre compagnie? Engageriez-vous le même type de personnes? Autant? Lèveriez-vous du cash? Autant?

C’est le temps de se poser ces questions-là.

Y’a une vague de AI qui déferle sur nos marchés. Les consommateurs, les entreprises, les employés, les investisseurs, tout le monde se mouille. Vos parties prenantes vont vouloir savoir comment vous compter vous mouiller.

Puis ensuite, pour philosopher un peu, pensez plus loin. Wonder. Comment on va interagir avec la logique et le data dans les années qui s’en viennent? La voix, le chat? Qu’est-ce que vous aimeriez pouvoir faire les yeux fermés sur votre divan sans écran sans clavier? Et vos clients, eux?

Imaginons que vos clients auraient 100% du temps un expert de votre produit et de votre industrie présent comme assistant personnalisé. Qu’est-ce que cet assistant lui ferait remarquer? Qu’est-ce que votre client lui demanderait de faire?

Avec toute l’information que vous avez sur votre industrie et vos clients, qu’est-ce que vous pouvez créer facilement via le IA génératif pour eux?

Quels problèmes vont surgir si vos clients ou vous réglez vos anciens problèmes via un nouvel interface? Comment pouvez-vous les régler?

Quels nouveaux problèmes risquent d’apparaître?

Conclusion

La double tragédie d’écrire sur l’intelligence artificielle : ça bouge vite donc c’est plus long à couvrir, ça bouge vite donc c’est plus rapide à périmer. Voyons-voir combien de temps cet article restera pertinent.

Je balance plus de questions que de réponses là-dedans. J’en suis conscient. Faut bien commencer quelque part! 🥸

Si vous pensez que je me plante — dites-le moi. Je veux apprendre, et c’est plus facile de le faire ensemble. C’est pour ça que j’ai pondu cet article. Pour sortir de ma tête, exposer mes idées au monde, et les faire évoluer.

Si vous avez des cas d’utilisation qui pourraient bénéficier à la communauté, dites-le-moi. Je vais m’arranger pour vous donner de la visibilité quelque part.

J’espère que ça vous a éduqué un minimum, inspiré un maximum.

🙇‍♂️

PS.: je recommande deux articles par deux personnes du Québec que je respecte :

• Est-ce que ChatGPT sonne la fin de plusieurs SaaS? par Steph Guérin
• Generative AI is Coming for Vertical SaaS par Isaac Souweine

‍

Stay human, folks!

‍

Cheers,

Francois Lanthier Nadeau

Fondateur @SaaSpasse

‍