Le modèle OpenAI o1 dans Chunk AI et ce qui nous attend pour 2025

Bonne année à tous ! Désolé pour le retard, il s'est passé beaucoup de choses depuis mon dernier post, notamment le fait que ma ville soit en feu. 😢 Heureusement, ma famille et moi allons bien, mais il y a beaucoup d'autres personnes qui souffrent vraiment. Je suis de tout cœur avec eux et avec tous ceux qui vivent cette horrible expérience.

D'une manière ou d'une autre, j'ai tout de même été en mesure de fournir quelques mises à jour cette année pour Chunk.

Améliorations/Corrections de bugs

J'ai apporté beaucoup d'améliorations à Chunk pendant les vacances, notamment la correction d'un méchant bug de téléchargement de documents, l'amélioration et la mise à jour de l'analyse des images pour chaque modèle d'entreprise, et le nettoyage d'une grande partie de l'interface utilisateur sur iOS, iPad OS et macOS (il reste encore des améliorations à apporter à l'interface utilisateur sur macOS).

Nouvelles fonctionnalités

Les collections ont été mises à jour récemment. Désormais, vous pouvez stocker les conversations de Chat dans des collections pour vous aider à organiser votre travail ou vos recherches. Vous verrez également des résumés de chaque collection que vous avez créée. Lorsque vous ajoutez de nouvelles conversations avec un contexte supplémentaire, les résumés sont également mis à jour. C'est très utile lorsque vous revenez sur un travail après quelques jours et que vous voulez savoir ce qui a été dit dans une conversation sans avoir à toutes les lire.

J'ai également décidé d'arrêter d'afficher le paywall à chaque fois que les utilisateurs gratuits quittent l'onglet Chat et y reviennent. Même si cela me coûtera probablement plus d'argent à court terme, j'essaie de construire des choses que j'aimerais utiliser, et avoir ce paywall qui apparaît à chaque fois est très ennuyeux et ne me donne pas une bonne impression de l'application que j'utilise, même si elle est gratuite. C'est à moi de continuer à fournir de la valeur pour que les utilisateurs veuillent mettre à niveau, même si l'accès à tous les principaux modèles d'IA est déjà une grande valeur pour le prix. 😜 J'apprécie TOUS ceux qui sont ou ont été abonnés à Chunk. C'est ce qui me permet de continuer à travailler dessus et de payer mes factures. lol. Je n'ai pas de financement par capital-risque, donc je compte uniquement sur mes utilisateurs, et je ne veux pas prendre cela pour acquis, même si vous utilisez Chunk gratuitement.

Modèle de raisonnement OpenAI o1

Il est enfin là ! J'ai mentionné que la version de production du dernier et plus puissant modèle de "raisonnement" de l'IA d'OpenAI arrivait bientôt sur Chunk. OpenAI étend lentement l'accès aux entreprises qui utilisent leur API. Chunk a eu la chance d'être l'une des premières entreprises à y avoir accès. Dès que j'ai pu le faire, je l'ai ajouté à Chunk, officiellement dans la version v1.8.1.

C'est le modèle que j'utilise pour tous les problèmes complexes que je rencontre, y compris les problèmes de codage difficiles que je rencontre et le débogage du code. Je le trouve tellement plus capable et utile que n'importe quel autre modèle pour les problèmes basés sur la logique - les mathématiques, le codage, la science, et même la distillation d'informations issues de la recherche.

Cependant, o1 est très coûteux à faire fonctionner, et je me heurte constamment aux limites d'utilisation d'OpenAI. Maintenant qu'il est dans Chunk, je vais pouvoir l'utiliser davantage... mais Chunk aura aussi des limites sur l'utilisation de o1, du moins pour l'instant. Les abonnés auront droit à 10 recherches par jour lorsqu'ils utiliseront le modèle o1. Ces limites peuvent changer et changeront probablement avec le temps. J'espère que les prix baisseront et que je pourrai augmenter ou supprimer totalement les limites d'utilisation. Je suis en train d'expérimenter quelques cas d'utilisation intéressants, en intégrant o1 plus profondément dans Chunk. C'est une période passionnante.

Prochaine étape...

Je suis actuellement en plein prototypage d'une nouvelle fonctionnalité sur laquelle je travaille pour Chunk AI et qui utilise l'API (vocale) en temps réel d'OpenAI. Je n'entrerai pas dans les détails car il y a encore beaucoup de décisions techniques et commerciales à prendre et de code à écrire. L'objectif est de permettre aux utilisateurs de dialoguer littéralement avec leurs documents (et éventuellement d'autres médias). Que ce soit pour la recherche, le travail, les devoirs ou les études, je veux que Chunk AI soit la première application à laquelle vous penserez.

Je travaille également sur une refonte du panneau latéral contextuel des documents sur iPadOS et macOS. J'ai eu des retours depuis la sortie initiale de Chunk et les utilisateurs veulent plus de cette fonctionnalité, donc je suis en train de repenser complètement la façon dont le contenu référencé apparaîtra ici et ce qui peut être fait avec lui qui aiderait à soutenir la façon dont les utilisateurs utilisent Chunk pour leur travail. Restez à l'écoute !