Vue normale

Il y a de nouveaux articles disponibles, cliquez pour rafraîchir la page.
Aujourd’hui — 18 septembre 2026Flux principal

40•Pervers, paranoïaques et autres tyrans

Par : Marc HENRY
14 novembre 2020 à 15:31

Épisode 40 Covid-19, novembre 2020

Censure du film « Hold-Up »

Cette chronique est la suite de la précédente consacrée à la sortie du film « Hold-Up ». Dès sa mise en ligne, des élus de la majorité et de nombreux internautes ont bien sûr dénoncé un film « délirant » et un amas de « fake news ». Le 12 novembre 2020, le film a été retiré de la plateforme Viméo, après avoir été accessible plus de 24 heures. Son réalisateur a reçu le message suivant : « Votre vidéo a été supprimée, car elle ne respecte pas nos règles ». Le motif invoqué pour ce retrait était le suivant : «  Vous ne pouvez pas mettre en ligne des vidéos mettant en scène ou encourageant des actes d’automutilation, prétendant à tort que les catastrophes de grande ampleur sont des canulars, et émettant des allégations erronées ou mensongères concernant la sécurité des vaccins ». Évidemment, Dailymotion a aussi fait retirer le film de sa plateforme. Toutefois, soyez rassurés. Le film peut être visionné gratuitement sur le site de la société Tprod.

Le site de financement participatif, Ulule, a touché 10 % des 182 000 euros récoltés par le réalisateur. Toutefois, vu l’animosité des réactions sur les médias « officiels », le directeur d’Ulule a pris la décision de reverser cette somme à « une association de défense de l’information ». Ulule refuse désormais de faire la promotion du film. Le 11 novembre 2020, le compte de Tprod sur la plateforme Tipeee avait reçu des promesses de don de 28 000 euros par mois. Trois jours plus tard, ils en sont désormais à 123 000 euros par mois, de la part de 6 300 participants, ce qui est tout simplement inédit pour la plateforme. Si Tipeee validait la page de Tprod, alors l’entreprise obtiendrait ces 123 000 euros dès le mois prochain. Toutefois, vu les pressions exercées vont-ils procéder à cette validation ? Pas, si sûr…

Accusation de complotisme

Le principal reproche fait au film est qu’il coche beaucoup de cases du conspirationnisme. L’ancien ministre de la Santé, Philippe Douste-Blazy, qui témoigne également dans ce reportage, a affirmé jeudi 12 novembre qu’il s’était fait piéger. Il dit être « scandalisé » par « presque tout » ce qu’il y a dans ce film. Il réclame le retrait des passages où il apparaît. Certains demandent la démission de la députée ex-LREM Martine Wonner interviewée dans le film. Car, cette élue du Bas-Rhin ne regrette pas le moins du monde sa participation. De même, l’actrice Sophie Marceau a ouvertement et courageusement fait la promotion du film, soulevant un tollé médiatique. 

Pour ce qui me concerne, je soutiens ce film au nom de la pluralité de l’information. En effet, pas besoin d’être très futé pour voir que les médias officiels sont adeptes de la pensée unique et monolithique. Tout ce qui dévie de la « ligne officielle du parti » est systématiquement taxé de complotisme et censuré. On voit depuis des mois, toujours les mêmes têtes sinistres sur les plateaux de télévision. Ceci démontre le niveau zéro de démocratie atteint lors de cette crise. Si donc, l’on m’accuse de complotisme en parlant de ce film, je ferais comme Martine et Sophie. J’assumerais, sans jamais la renier, ma position.

Liberté d’expression

On a aussi beaucoup critiqué le contenu du film. Or, il se trouve que, moi aussi, je ne suis pas vraiment d’accord avec beaucoup de choses dites dans ce film. Certaines sont manifestement approximatives et d’autres sont des montages de propos retirés de leur contexte. Toutefois, là n’est pas le problème. Car les médias « officiels » font exactement la même chose et ce, sans aucune vergogne. Ils sont donc bien mal placés pour critiquer quoi que ce soit. Mon sentiment est que les Français sont suffisamment matures. Ils sauront prendre ce qui est bon et laisser ce qui est douteux. Nul besoin de leur dire, ce qui est vrai ou ce qui est faux.

Laissons donc toutes les opinions s’exprimer librement, même si certaines nous déplaisent. C’est cela la vraie démocratie. Les sites qui se sont désengagés du film après avoir accepté de le financer ou de le diffuser devraient donc avoir honte. Ce genre de réaction démontre le degré de soumission et de servilité atteint envers les pouvoirs « bien-pensants ».  Comme je l’ai expliqué dans ma précédente chronique, le film met en lumière deux femmes tout à fait remarquables. Après avoir détaillé les arguments de la généticienne, Alexandra Henrion-Caude, je reviens maintenant sur ce que nous dit Mme Ariane Bilheran. Cette psychiatre qui réside en Colombie s’exprime dans une vidéo de 47 minutes tournée en marge du film. On peut ainsi remettre ses propos dans leur contexte. 

Philosophes, paranoïaques et autres pervers

Ariane nous met d’ailleurs tout de suite dans l’ambiance, en parlant d’entrée de jeu du complotisme. Dans l’antiquité, le philosophe est celui qui dénonce un complot contre le peuple. Donc, si le complot est réel, celui qui dénonce le « complot » s’inscrit dans une démarche philosophique. Maintenant, si le complot n’existe pas, celui qui parle de complot est tout simplement un paranoïaque. Dans un monde où les choses peuvent être fausses ou vraies, le paranoïaque est l’inverse du philosophe. En fait, le vrai complotiste ou conspirationniste est celui qui corrompt le langage afin de tromper le peuple. S’il n’y a pas corruption du langage, on a affaire à un philosophe qui cherche à affirmer une vérité. Dès que le langage est corrompu, on a affaire à un paranoïaque qui cherche à dissimuler un mensonge.

Ce point est fondamental pour s’y retrouver dans un flot d’informations souvent contradictoires. Toutefois, je ne suis pas tout à fait Ariane lorsqu’elle associe langage paradoxal et perversité. Car, le langage paradoxal est celui de la nature lorsqu’on la considère dans sa dimension quantique. Manier le paradoxe est le plus sûr moyen pour approcher une vérité profonde. Accepter la contradiction n’est en rien un signe de perversité. C’est plutôt faire preuve d’ouverture d’esprit. En revanche, la perversité c’est l’action de détourner quelque chose de sa vraie nature. Ainsi, la vraie nature d’un père ou d’une mère, c’est d’aimer ses enfants. Tout parent qui maltraite ses enfants est donc à la base un pervers. Un parent pervers ne peut donc pas, par définition, aimer ses enfants. De la même manière, un état est censé protéger ses citoyens. Il en découle, que dès que l’état maltraite ses citoyens, il fait preuve de perversité.

Tyrannie et harcèlement

Ariane reconnaît aussi, à côté de la figure du paranoïaque et du pervers, l’existence du tyran. On reconnaît un tyran au fait qu’il est passionné par le pouvoir. Le tyran prétend aussi que la fin justifie les moyens. C’est ce qui lui permet de tuer, voire de torturer, au nom d’une « grande cause ». Ceux qui aspirent au pouvoir ne peuvent donc pas être des hommes vertueux. Car, tout homme vraiment vertueux fuie le pouvoir. C’est la raison pour laquelle un philosophe ne pourra jamais accéder au pouvoir. Par contre un paranoïaque ou un pervers peut très bien accéder au pouvoir. Si le pouvoir est pris par un pervers, on pourra aboutir à un état de démocratie totalitaire. Car, rappelons-le, le pervers ne peut s’empêcher de détourner les choses de leur vraie nature.

C’est ce qui se passe aujourd’hui dans beaucoup de pays qui se vantent d’être « démocratiques ». Le pouvoir peut aussi être pris par un paranoïaque qui va alors chercher à harceler le peuple via 4 techniques principales. La première technique de harcèlement est le choc traumatique. Ce choc suggère que la survie de l’espèce est en danger. Ce choc est un évènement brutal qui n’a pas été anticipé et qui interdit l’analyse ou le dialogue. On alimente ce choc via la transmission de messages de terreur comme une comptabilité mortifère journalière avec menaces de pertes d’emplois ou de famine.

Comportement sectaire et délire paranoïaque

Ariane nous rappelle que le maniement de la terreur est à la base une méthode sectaire. La racine étymologique du mot secte signifie « couper ». Tout comportement sectaire se reconnaît donc facilement en cas de mesures prises pour nous couper de nos proches, de notre travail ainsi que de la possibilité de se déplacer, de se rassembler ou de s’exprimer. Quand on adhère à une idéologie sectaire, il y a nécessairement un « avant » et un « après ». Le délire paranoïaque apporte une réponse rassurante, englobante et dogmatique à la difficulté qu’il y a de faire son deuil de sa vie d’avant. Pour cette crise du COVID-19, celui qui pense n’est plus l’individu, mais l’État.

Or, si l’État délire parce qu’il est dirigé par un paranoïaque, alors bonjour les dégâts. Rappelons que ce qui caractérise un délire, c’est la certitude absolue. Donc, tout système qui prône l’existence de vérités absolues attire nécessairement à lui des paranoïaques. D’où une deuxième stratégie de harcèlement : la culpabilité. Le paranoïaque accuse, par exemple, quelqu’un ou son peuple de détruire la planète. Ou alors, il fustige des comportements jugés irresponsables. Ceux qui ne suivent pas les règles sanitaires sont coupables de contaminer les autres. Car, toute personne qui culpabilise devient manipulable et contrôlable. C’est la culpabilité qui permet de mettre en œuvre très rapidement des mesures de privation des libertés individuelles. 

Empathie et division

La troisième technique de manipulation est l’empathie. L’idée est de persuader une personne ou le peuple que l’on agit pour son bien-être. Or, seul l’individu est habilité à définir ce qui bien pour lui. Sûrement pas un autre individu, une corporation ou pire, un État. Dès que quelqu’un prétend agir pour votre bien-être, une sonnette d’alarme doit immédiatement se déclencher dans votre tête. 

La quatrième stratégie est celle de la division. Toute dictature a besoin de casser les groupes d’appartenance, comme les classes sociales et surtout la famille. Le paranoïaque triomphe dès que les proches sont perçus comme des ennemis potentiels. Ici aussi, toute personne qui cherche à diviser est un paranoïaque en puissance. Un dirigeant sain d’esprit aura toujours un discours d’union et non de division. Comme le souligne le psychiatre Jean-Pierre Caillot : « Si vivre ensemble nous tue, nous séparer est mortel ». On retrouve ici le conflit de loyauté qui vise à nous faire croire que si l’on cherche à aider les autres, on court à une mort certaine. D’où la division en lieu et place de l’union.

La médecine n’est pas une science

Ce qui caractérise aussi la crise actuelle, c’est qu’elle possède une dimension médicale. Or, pour Ariane, la médecine ne peut pas être une science, comme je l’ai moi-même expliqué par ailleurs.  En effet, comme nous l’a enseigné Hippocrate, tout acte médical présuppose une relation humaine entre un médecin, un patient et une maladie. Or, il ne peut y avoir de certitude absolue dans l’art ou dans la justice. De même, interpréter des symptômes est un art car, là aussi il ne peut y avoir de certitude absolue. Par contre manier des statistiques est clairement une science.

Grâce à ces notions cruciales et fondamentale, il est facile de distinguer le vrai médecin qui pratique un art, du faux médecin qui manie des statistiques. Si un médecin prétend avoir une approche scientifique de la maladie, zappez ! Car, par là-même, il renie son serment d’Hippocrate. On l’a bien vu dans cette crise, où de faux médecins ont interdit, au nom de la science, à de vrais médecins de prescrire certains remèdes.

Pensées et actes

De même, Ariane nous informe qu’il n’y a que les pervers, les paranoïaques et les psychopathes qui confondent la pensée et l’acte. Or, que voyons-nous à la télévision à longueur de journée ? Une kyrielle d’experts, un ministre de la Santé ou un président justifiant les mesures liberticides prises au moyen de courbes dérivées de simulations mathématiques. Par exemple, notre président nous a prédit 400 000 morts en novembre si l’on ne faisait rien. D’où sort ce chiffre ? Tout simplement d’une simulation mathématique qui n’est qu’une pensée plus ou moins sophistiquée. Il est bon de savoir que toute pensée est aisément identifiable par l’emploi de la conjonction de subordination « Si ».

Par contre, ouvrir un lit de réanimation ou recruter du personnel de santé sont des actes. Là, plus question de « si » avec lesquels on peut « mettre Paris en bouteille ». Je suis sidéré de cette dérive actuelle de prendre les résultats d’une simple simulation mathématique pour une vérité. C’est en fait très pervers. Car, c’est la simulation qui permet de justifier les prises de décisions politiques. Puis, suite aux mesures prises, on valide la simulation puisque les chiffres prédits ne sont pas observés. En fait, la seule chose à faire est de ne pas chercher à simuler ce qui va arriver. On doit toujours s’en tenir aux faits et rien qu’aux faits. Notre gouvernement brille-t-il par ses actes ou par ses pensées ? Chacun pourra juger par lui-même. 

Vivre ou mourir

Ariane et moi-même faisons la même analyse pour ce qui concerne notre dérive vers un monde hybridant les idées d’Aldous Huxley avec celles de George Orwell. Toutefois, Ariane va plus loin en posant la bonne question. Jusqu’où sommes-nous prêts à perdre notre humanité par peur d’être persécutés ? Car, ce qui nous humanise, c’est de philosopher, c’est-à-dire d’apprendre à affronter la maladie et éventuellement à mourir. Vivre, c’est donc aussi apprendre à savoir mourir.  C’est le choix que doit faire Achille. Il pourrait avoir une vie normale où il mourra vieux et heureux entourés de ses enfants. Il y a cependant un autre choix qui est de mourir jeune sans enfants. Achille aura alors une vie héroïque qui le rendra célèbre pour la postérité.

De nos jours, il nous est impossible de faire des choix héroïques. Le choix de la vie héroïque doit être laissé à tout un chacun, car c’est ce qui nous humanise. L’idée est de rendre sacré le lien humain. Or, nous assistons aujourd’hui à une attaque sans précédent contre la tendresse humaine. On nous refuse le droit de faire des gestes essentiels pour manifester notre amour envers l’autre. C’est ici qu’il convient de se rappeler que vivre c’est accepter de prendre des risques. Être héroïque, c’est avoir conscience que l’on peut se sacrifier. Prendre un risque sur sa propre vie pour rendre sacrée la vie. La vie spirituelle, intellectuelle, émotionnelle, c’est sacré, la survie physique c’est juste de la biologie. 

Union et héroïsme

On lutte efficacement contre les paranoïaques et les pervers en s’unissant. Toutefois, ceci nécessite d’avoir vaincu ses propres démons et la division qui règne en nous. Il faut être en paix à l’intérieur de soi en se connectant à sa dimension transcendantale. Pour s’y aider, il suffit de se raccrocher aux grandes figures héroïques de l’humanité. Nous ne sommes pas ce à quoi on cherche à nous réduire. Car tout totalitarisme fonctionne par rétrécissement de la pensée. Le totalitarisme n’est que le croisement et le produit de ce qui nous avons permis. C’est ce à quoi nous avons accepté d’être réduits qui permet aux paranoïaques et autres pervers de nous dominer. Nous avons donc les dirigeants que nous méritons. 

Ceux qui ne les connaissent pas encore pourront découvrir, dans mon dernier livre, les 7 cadres de pensée de l’humanité. Chaque fois que l’on élargit sa pensée, on lutte très efficacement contre la paranoïa, la perversion et le totalitarisme. Vivre ou survivre ? A chacun de choisir en son âme et conscience. Un grand merci à Ariane Bilheran pour nous aider à décoder les pensées et les décisions prises par nos dirigeants, toutes nationalités confondues.

Par Marc HENRY

The post 40•Pervers, paranoïaques et autres tyrans appeared first on Marc HENRY - Natur'Eau Quant.

À partir d’avant-hierFlux principal

Microsoft présente Phi-3, la nouvelle génération de ses modèles de langage de petite taille

25 avril 2024 à 10:30

Les grands modèles de langage (LLM) présentent des capacités impressionnantes dans différents domaines mais les modèles plus petits (SLM) sont une alternative intéressante pour les entreprises qui peuvent les exploiter à moindre coût pour des tâches spécifiques. Microsoft, qui a introduit le SLM Phi-1 en juin 2023, a présenté le 23 avril dernier la famille de modèles ouverts Phi-3. Le plus petit d’entre eux, Phi-3 mini, d’ores et déjà disponible, compte 3,8 milliards de paramètres et, grâce à sa petite taille, peut être déployé en local sur un téléphone ou un ordinateur.

Microsoft présente les modèles Phi-3 comme “les modèles de langage de petite taille les plus performants et les plus rentables disponibles”.

Phi-3 Mini est un modèle de transformateur avec décodeur dense, affiné grâce au fine-tuning supervisé (SFT) et l’optimisation directe des préférences (DPO) pour garantir l’alignement avec les préférences humaines et les directives de sécurité. Il est disponible sur Azure AI StudioHugging Face et Ollama.

Il a été entraîné pendant sept jours sur 512 GPU NVIDIA H100 Tensor Core, NVIDIA nous a d’ailleurs précisé qu’il était possible de l’essayer sur ai.nvidia.com où il sera packagé en tant que NVIDIA NIM, “un microservice avec une interface de programmation d’application standard qui peut être déployé n’importe où”.

Dans leur rapport technique, les chercheurs expliquent que “L’innovation réside entièrement dans notre jeu de données pour l’entraînement, une version agrandie de celle utilisée pour PHI-2, composé de données web fortement filtrées et de données synthétiques“.

Le modèle, entraîné sur 3,3 trillions de jetons, a également été aligné pour la robustesse, la sécurité et le format de chat. Sa fenêtre contextuelle, qui peut aller de 4 000 jusqu’à 128 000 jetons, lui permet d’assimiler et de raisonner sur des contenus textuels volumineux (documents, pages Web, code…). Selon Microsoft, Phi-3-mini démontre de solides capacités de raisonnement et de logique, ce qui en fait un bon candidat pour les tâches analytiques.

Des performances solides malgré une petite taille

Microsoft a partagé dans son blog les performances de Phi-3 mini, mais également celles de Phi-3-small (7B) et Phi-3-medium (14B) qui seront prochainement disponibles et ont été entraînés sur 4,8 trillions de tokens.

Les performances des modèles Phi-3 ont été comparées à celles de Phi-2, Mistral-7b, Gemma-7B, Llama-3-instruct-8b, Mixtral-8x7b, GPT-3.5 Turbo et Claude-3 Sonnet. Tous les chiffres déclarés sont produits avec le même pipeline afin qu’ils soient effectivement comparables.

Phi-3-mini surpasse Gemma-7B et Mistral-7B sur certains benchmarks de référence comme MMLU, tandis que Phi-3-small et Phi-3-medium, nettement plus performants, surpassent les modèles beaucoup plus grands, y compris GPT-3.5 Turbo.  Cependant, du fait de leur petite taille, les modèles Phi-3 sont moins compétitifs pour les tâches axées sur les connaissances factuelles, telles que celles évaluées dans TriviaQA.

Toutefois, leurs capacités dans de nombreux autres domaines, les rendent particulièrement utiles dans des scénarios où la taille du modèle et les ressources disponibles sont des facteurs critiques, comme dans les environnements à ressources limitées ou les applications nécessitant des temps de réponse rapides.

Microsoft-presente-Phi-3

PyTorch dévoile Torchtune pour fine-tuner les LLM

Par : Korben
19 avril 2024 à 10:18

PyTorch, le framework chouchou des bidouilleurs d’IA, vient de nous pondre un petit truc cool : Torchtune ! 💎 Cette nouvelle bibliothèque native, encore en phase alpha mais déjà disponible en open-source sur GitHub, va vous permettre de fine-tuner les gros modèles de langage (LLM) comme un pro, sans vous prendre la tête.

Torchtune est donc une boîte à outils hyper flexible et modulaire qui va vous permettre de vous éclater à customiser des modèles pour vos propres besoins, le tout avec des recettes mémoire efficaces qui tournent même sur une bête carte graphique de gamer, comme les NVidia 3090/4090.

Son secret ?

Une architecture bien pensée qui mise sur l’interopérabilité avec l’écosystème des LLM, qu’ils soient open-source ou non. Concrètement, ça veut dire que vous allez pouvoir brancher Torchtune à tout un tas d’outils et de frameworks que vous adorez déjà, comme Hugging Face 🤗, PyTorch FSDP 🪢, Weights & Biases 📈, et plein d’autres.

Grâce à des recettes simples et bien documentées pour les modèles populaires comme Llama 3, Mistral ou Gemma 7B, même les débutants vont pouvoir se lancer dans l’aventure sans flipper. Bon OK, il faudra quand même un peu de bagage en PyTorch et en LLM, mais rien d’insurmontable ! Et si vous êtes un pro, vous allez pouvoir hacker le code à volonté pour l’adapter à vos besoins spécifiques.

Alors comment on met les mains dans le cambouis avec Torchtune ?

Rien de plus simple, mon cher Watson ! Il vous suffit d’installer la dernière version stable de PyTorch (2.2.2 au moment où j’écris ces lignes), puis de télécharger Torchtune depuis PyPI avec un petit

pip install torchtune

Et voilà, vous êtes prêt à en découdre avec les LLM !

Pour vous faire les dents, je vous conseille de jeter un œil au tutoriel sur le fine-tuning de Llama2 7B. C’est le parfait point de départ pour comprendre comment Torchtune fonctionne et comment l’utiliser pour vos propres projets.

En gros, ça se passe en 4 étapes :

  1. Téléchargez le modèle pré-entraîné et le tokenizer depuis Hugging Face Hub avec tune download.
  2. Choisissez une recette de fine-tuning (LoRA, QLoRA, full…) et customisez-la avec un fichier de config en YAML.
  3. Lancez l’entraînement avec tune run en précisant votre recette et votre config. Vous pouvez même faire du multi-GPU avec torchrun !
  4. Admirez le résultat et testez votre modèle fine-tuné avec une inférence locale. Si tout se passe bien, exportez-le avec ExecuTorch pour le déployer en prod, ou utilisez les API de quantification de Torchao pour l’exporter en int4 ou int8 et l’utiliser sur mobile ou en edge.

Facile, non ? 😄

Bon OK, j’avoue, j’ai un peu simplifié. En vrai, il y a pas mal de subtilités et de paramètres à régler pour obtenir les meilleurs résultats, comme le learning rate, le nombre d’époques, la taille du batch, le ratio de LoRA, et tout un tas d’autres trucs, mais c’est justement sa flexibilité qui vous permet d’expérimenter à l’infini pour trouver la combinaison parfaite.

Bref, si vous êtes dev et que vous aimez jouer avec les LLM c’est à tester.

Source

Llama 3 – l’IA open source de Meta qui rivalise avec les meilleurs modèles

Par : Korben
18 avril 2024 à 20:44

Accrochez-vous à vos claviers, car Meta vient de lâcher dans la nature une nouvelle créature nommée Llama 3. Oui, vous avez bien compris, je parle de la dernière génération de modèles de langage « open source » (ou presque, on y reviendra) de la société de Mark Zuckerberg.

Si vous pensiez que ChatGPT, Claude ou Mistral étaient les rois de la savane, attendez de voir débarquer ces nouveaux lamas survitaminés ! Avec des versions allant de 8 à 400 milliards de paramètres (pour les non-initiés, disons que c’est l’équivalent de leur QI 🧠), les Llama 3 atomisent littéralement la concurrence sur de nombreux benchmarks standards, que ce soit en termes de connaissances générales, de compréhension, de maths, de raisonnement ou de génération de code.

Mais qu’est-ce qui fait de Llama 3 un tel monstre par rapport à son petit frère Llama 2 ? Déjà, un entraînement de folie à base de 15 000 milliards de tokens (7 fois plus que Llama 2 !) pompé depuis le web (!!), avec beaucoup plus de code et de données non-anglaises pour préparer le terrain à une IA multilingue. Ajoutez à ça des techniques de parallélisation à gogo pendant la phase de pré-entraînement, et vous obtenez des lamas dopés qui apprennent à une vitesse supersonique.

Et ce n’est pas tout ! Les Llama 3 ont suivi un programme d’éducation complet, avec du fine-tuning à base de rejection sampling, de PPO et de DPO (si vous ne connaissez pas ces acronymes, ne vous inquiétez pas, moi non plus 😅). Résultat : des modèles ultra-fiables qui refusent rarement une tâche, font preuve d’un alignement exemplaire et sont capables de suivre des instructions complexes sans sourciller. Bref, ce sont des cracks en raisonnement et en génération de code !

Mais au fait, comment on met la main sur ces petites bêtes ? Facile, il suffit de se rendre sur le site de Meta AI et de les télécharger ! Enfin, quand je dis facile… Les Llama 3 sont bien « open source », mais sous une licence maison qui impose quelques restrictions, notamment pour les entreprises de plus de 700 millions d’utilisateurs mensuels (suivez mon regard vers Mountain View et Redmond 👀). Mais bon, rien ne vous empêche de vous amuser avec si vous n’êtes pas une multinationale !

Et en parlant de s’amuser, sachez que Meta a aussi concocté un chatbot maison (pas encore dispo en France) baptisé sobrement « Meta AI« , disponible sur le web (www.meta.ai) et directement intégré dans les barres de recherche de Facebook, Instagram, WhatsApp et Messenger. Sous le capot, c’est bien sûr du pur Llama 3, avec en prime un modèle de génération d’images nommé « Meta Imagine« .

Au programme, de la discussion, de la recherche web via Bing et Google, et bien sûr de la création d’images en un clin d’œil. Seul hic, pas encore de mode multi-modal façon ChatGPT pour uploader vos propres documents ou images, mais ça ne saurait tarder !

Alors, que penser de ce nouveau coup d’éclat de Meta dans la bataille des IA ?

Personnellement, je trouve ça plutôt chouette de voir un poids lourd du Net jouer le jeu de l’open source (ou approchant) et mettre à disposition de tous des modèles de cette qualité. Bien sûr, on peut toujours discuter des arrière-pensées de Zuck et sa volonté de garder un œil sur ce qu’on fabrique avec ses lamas. Mais au final, c’est toujours ça de pris sur les GAFAM et leurs vilains modèles propriétaires !

Allez, je vous laisse, j’ai un lama à aller dompter moi ! 🦙

Et n’oubliez pas, comme le dirait l’autre, « le monde appartient à ceux qui codent tôt ». Ou tard, c’est selon.

Source

AWS annonce la disponibilité d’Amazon Bedrock en France

4 avril 2024 à 10:30

C’est lors de l’AWS Summit Paris 2024, que Julien Groues (General Manager – Europe South, AWS) a annoncé hier l’arrivée en France d’Amazon Bedrock, un service qui permet de créer et de mettre à l’échelle des applications d’IA génératives à l’aide de modèles de fondation. Il donne désormais accès au dernier modèle de Mistral AI, Mistral Large, ainsi qu’à Claude 3 Haiku et Claude 3 Sonnet d’Anthropic.

Lancé en avril 2023, Amazon Bedrock permet à ses utilisateurs de personnaliser des LLM en fonction de leurs besoins et de leurs données au lieu d’utiliser des modèles prêts à l’emploi. A l’origine, ceux-ci avaient le choix entre les modèles de fondation des start-ups AI21 LabsAnthropic, Stability AI et les modèles Titan d’Amazon, Titan Text Lite et Titan Text Express. En septembre dernier, AWS enrichissait ce service avec l’ajout de Claude 2 d’Anthropic, Stable Diffusion XL 1.0 de Stability AI, le modèle phare “Command” de la start-up canadienne Cohere ainsi que son modèle “Embed”.

Après Mistral 7B et Mixtral 8x7B il y a quelques semaines, c’est au tour de Mistral Large de les y rejoindre avec les derniers modèles d’Anthropic.

AWS souligne qu’aucune des données du client n’est utilisée pour former les modèles sous-jacents, et comme toutes les données sont chiffrées et ne quittent pas le Virtual Private Cloud (VPC) d’un client, les clients peuvent être sûrs que leurs données resteront privées et confidentielles. Le service est facturé en fonction de son utilisation.

Lors de la keynote de cette conférence dédiée au cloud, à la data et l’IA, Julien Groues, accompagné de Mai-Lan Tomsen-Bukovec (VP of Technology, AWS), a expliqué comment les technologies AWS permettent aux clients de tirer parti de la puissance de l’IA générative. Après les témoignages clients de Fabien Mangeant (Chief Data and AI Officer, Air Liquide) et Raphaëlle Deflesselle (CTO, Groupe TF1), Arthur Mensch (cofondateur et CEO, Mistral AI), est monté sur scène où il a expliqué que la plateforme d’AWS est un canal de distribution particulièrement efficace. Thomas Wolf (cofondateur de Hugging Face) et Tom Brown (cofondateur d’Anthropic), deux start-ups qui ont bénéficié des investissements d’Amazon, Hugging Face lors de sa dernière levée de fonds, et Anthropic dans le cadre d’une collaboration élargie avec le géant du cloud qui pourrait lui rapporter jusqu’à 4 milliards, sont également intervenus.

Les 3 cofondateurs ont rappelé l’importance de l’infrastructure cloud d’AWS qui leur donne un accès aux puces AWS Trainium et Inferentia, conçues pour accélérer l’entraînement des modèles d’IA, améliorer le temps d’inférence et réduire les coûts.

AWS annonce la disponibilité d'Amazon Bedrock en France

Comment Ai2 démocratise la recherche sur les LLM avec OLMo (Open Language Model)

6 février 2024 à 13:30

L’Allen Institute for Artificial Intelligence (Ai2), organisation à but non lucratif, a été créé en 2014 par Paul Allen, co-fondateur de Microsoft dans le but de participer activement au développement de l’intelligence artificielle pour le bien commun. Il franchit un pas décisif dans cette direction avec la publication du LLM OLMo. Alors que certains modèles open source incluent les codes et les poids, Ai2 rend le modèle OLMo véritablement ouvert en fournissant non seulement les codes et les poids, mais aussi le code d’entraînement, les données d’entraînement et les boîtes à outils associées, le tout sous licence Apache 2.0.

Avec la publication du modèle de pointe OLMo et du cadre qui l’accompagne, l’objectif d’Ai2 est de favoriser l’innovation et la collaboration sur les modèles de langage, tout en sensibilisant aux enjeux éthiques et sociétaux qu’ils soulèvent.

Hanna Hajishirzi, Cheffe de projet OLMo, Directrice principale de la recherche en NLP à AI2 et professeure à l’Allen School de l’UW, explique:

“De nombreux modèles de langage sont aujourd’hui publiés avec une transparence limitée. Sans avoir accès aux données d’entraînement, les chercheurs ne peuvent pas comprendre scientifiquement le fonctionnement d’un modèle. C’est l’équivalent de la découverte de médicaments sans essais cliniques ou de l’étude du système solaire sans télescope. Grâce à notre nouveau cadre, les chercheurs seront enfin en mesure d’étudier la science des LLM, ce qui est essentiel pour construire la prochaine génération d’IA sûre et digne de confiance”.

OLMo est le fruit d’une collaboration avec le Kempner Institute for the Study of Natural and Artificial Intelligence de l’Université Harvard et des partenaires tels qu’AMD, CSC, la Paul G. Allen School of Computer Science & Engineering de l’Université de Washington et Databricks.

Les modèles OLMo 7B et 1B ont été développés sur le supercalculateur LUMI du CSC (Centre de technologie de l’information pour la science), alimenté par des processeurs AMD EPYC™ et des accélérateurs AMD Instinct™ et ont été entraînés grâce à la plateforme MosaicML de Datbricks.

Le cadre comprend une suite d’outils de développement d’IA entièrement ouverts, notamment :

  • Données de pré-entraînement complètes : le modèle est construit sur l’ensemble Dolma d’AI2 qui comprend un corpus ouvert de trois billions de jetons pour le pré-entraînement du modèle de langage, y compris le code qui produit les données d’apprentissage.
  • Le cadre OLMo comprend des pondérations de modèle complètes pour quatre variantes de modèle à l’échelle 7B, chacune entraînée à au moins 2T tokens. Le code d’inférence, les métriques d’entraînement et les journaux d’entraînement sont tous fournis.
  • Evaluation : Ai2 a publié la suite d’évaluation utilisée dans le développement, avec plus de 500 points de contrôle par modèle, toutes les 1000 étapes du processus de formation et le code d’évaluation sous l’égide du projet Catwalk.

Eric Horvitz, directeur scientifique de Microsoft et membre fondateur du conseil consultatif scientifique d’AI2, déclare :

“Je suis enthousiaste à l’idée de mettre OLMo entre les mains des chercheurs en IA. La nouvelle offre s’inscrit dans la tradition d’Allen AI de fournir des modèles, des outils et des données ouverts de valeur, qui ont stimulé de nombreuses avancées dans le domaine de l’IA dans la communauté mondiale”.

Avec OLMo, les chercheurs et développeurs en IA feront l’expérience de :

  • Plus de précision : Grâce à une connaissance complète des données d’entraînement qui sous-tendent le modèle, les chercheurs seront en mesure de travailler plus rapidement et n’auront plus besoin de dépendre d’hypothèses qualitatives sur la façon dont le modèle fonctionne, mais pourront le tester scientifiquement.
  • Moins de carbone : À l’heure actuelle, une séance d’entraînement équivaut aux émissions de neuf foyers américains pendant un an, selon l’EPA, l’agence américaine de protection de l’environnement. En offrant un accès complet à l’écosystème de formation et d’évaluation, Ai2 diminue considérablement les répétitions dans le processus de développement, ce qui est crucial pour la réduction des émissions de carbone dans le domaine de l’intelligence artificielle.
  • Des résultats durables : Le fait de garder les modèles et leurs ensembles de données ouverts et non derrière les API permet aux chercheurs d’apprendre et de s’appuyer sur des modèles et des travaux antérieurs.

Ai2 prévoit d’ajouter prochainement différentes tailles de modèles, modalités, ensembles de données et capacités à la famille OLMo.

Noah Smith, chef de projet OLMo, directeur principal de la recherche en NLP à AI2 et professeur à l’Allen School de l’UW, conclut :

“Avec OLMo, ouvert signifie en fait « ouvert » et tous les membres de la communauté de recherche en IA auront accès à tous les aspects de la création de modèles, y compris le code d’entraînement, les méthodes d’évaluation, les données, etc…L’IA était autrefois un domaine ouvert centré sur une communauté de recherche active, mais à mesure que les modèles se sont développés, sont devenus plus chers et ont commencé à se transformer en produits commerciaux, le travail sur l’IA a commencé à se dérouler derrière des portes closes. Avec OLMo, nous espérons aller à l’encontre de cette tendance et donner à la communauté des chercheurs les moyens de se réunir pour mieux comprendre et s’engager avec les modèles de langage de manière scientifique, ce qui conduira à une technologie d’IA plus responsable qui profite à tous”.

Le modèle OLMo et son framework sont accessibles en téléchargement direct sur Hugging Face et GitHub.

Comment-Ai2-democratise-recherche-LLM-avec-OLMo

❌
❌