A l’occasion des Journées Neurosciences Psychiatrie Neurologie (JNPN) la Fondation FondaMental, a remis les Prix FACE (FondaMental Advanced Center of Expertise) 2024 à quatre chercheurs en psychiatrie. Depuis 2014, le Prix FACE (FondaMental Advanced Center of ...
L’article Remise des Prix FACE 2024 est apparu en premier sur Santé Mentale.
Si l’an passé, la NASA a déclaré 2023 “l’année de l’open source”, elle a toujours fait de l’accès à ses recherches une priorité. Pour faciliter le partage de ses données, la Direction des missions scientifiques (SMD) de la NASA a lancé la version bêta du moteur Science Discovery Engine, optimisée par la plateforme de Sinequa, un leader du marché de la recherche et de l’analyse de données basées sur l’IA.
Cofondé en 2005 par Jean Ferré et Alexandre Bilger, Sinequa permet aux entreprises de tirer de la valeur de la masse de données dont elles disposent. Sa solution, combinant un moteur de recherche puissant (Enterprise Search) avec des fonctionnalités avancées de traitement du Langage Naturel (NLP) et des algorithmes d’apprentissage automatique, permet d’extraire des informations métiers à partir de données structurées, mais également non structurées. La société a été l’une des premières à inclure les grands modèles de langage (LLM) dans la recherche.
Le SDE est un élément clé du programme Open Source Science Initiative (OSSI) de la NASA qui vise à rendre la recherche scientifique financée par des fonds publics transparente, inclusive, accessible et reproductible et de son initiative “Transform to Open Science” (TOPS) dont l’objectif est de créer une culture inclusive de la science ouverte capable de relever les défis du 21e siècle.
En 2019, la communauté scientifique recommandait à la NASA de développer un portail de recherche qui donnerait, à partir d’une seule interface, accès au contenu des cinq domaines scientifiques de la SMD : astrophysique, sciences biologiques et physiques, sciences de la Terre, héliophysique et sciences planétaires.
En 2020, la solution Enterprise Search de Sinequa a été sélectionnée pour aider la NASA à accéder à des informations accumulées depuis plusieurs décennies, ainsi qu’à les exploiter de façon optimale. La collaboration étroite amorcée alors entre l’équipe de Sinequa et les développeurs, chercheurs et data scientists de la NASA a abouti à la création du SDE.
Pour mettre en œuvre ce moteur de recherche, les partenaires ont du relever un défi de taille, outre la quantité des données : leur hétérogénéité et leur complexité, chacun ses 5 domaines opérant avec ses propres normes et terminologies.
Aujourd’hui, les utilisateurs du SDE peuvent extraire des informations enregistrées de plus de 84 000 ensembles de données et plus de 715 000 documents, répartis dans 128 sources d’information différentes, sites internet, référentiels de données et archives documentaires. Egalement intégrée à plus de 44 500 logiciels, modèles et outils scientifiques, la solution de Sequina reconnait plus de 8 900 termes scientifiques différents, un nombre qui devrait augmenter prochainement.
La version bêta du SDE a été lancée en décembre 2022. Depuis lors, l’interface n’a cessé d’être améliorée afin d’offrir des résultats de recherche plus pertinents, une nouvelle version a ainsi été mise en ligne en janvier dernier.
Kaylin Bugbee, chef de projet SDE, explique :
“Les scientifiques et les chercheurs passent beaucoup de temps à rechercher et à démêler des données et des informations scientifiques. Les nouvelles mises à jour de l’interface utilisateur de SDE font gagner du temps aux chercheurs en les aidant à rechercher rapidement des données et de la documentation par sujet scientifique ou dans l’ensemble de la collection d’informations. Cette amélioration de l’efficacité de la recherche permet aux scientifiques d’accéder plus rapidement à une science ouverte et exploitable”.
Désormais, des fonctionnalités de filtrage supplémentaires offrent aux utilisateurs la possibilité d’effectuer des recherches spécifiques dans un domaine scientifique donné, tel que la science planétaire ou l’héliophysique, simplifiant ainsi leurs processus de recherche. Parmi les mises à jour figure également un nouvel outil de recherche par acronyme, permettant une meilleure compréhension du contexte des résultats de recherche et du contenu des documents.
La NASA prévoit d’intégrer davantage de données et de contenus au cours des mois à venir, notamment en enrichissant les fonctionnalités de l’interface utilisateur et en poursuivant le développement de l’API du moteur. L’équipe du SDE prévoit de son côté un déploiement complet de l’outil à l’automne 2024.
Jean Ferré, CEO de Sinequa, conclut :
“Le Science Discovery Engine est une infrastructure fantastique qui aide les scientifiques de la NASA, ainsi que les utilisateurs du monde entier, à trouver les informations dont ils ont besoin en quelques secondes seulement, au lieu de plusieurs minutes, voire de longues heures. Nous sommes fiers d’aider la NASA à transformer et à améliorer la productivité dans l’ensemble de son organisation et serons à ses côtés pour associer de nouveaux ensembles de données et de nouvelles sources d’informations qui alimenteront son moteur de connaissances. Pour la science, la technologie et l’innovation, le partage de données scientifiques et ouvertes constitue le seul moyen de prospérer. À cet égard, Sinequa se réjouit de jouer un rôle actif dans cette initiative”.
L’AI Index Report de l’Institut d’Intelligence Artificielle Centrée sur l’Humain de l’Université de Stanford (HAI) est reconnu comme l’une des sources les plus fiables de données et d’informations sur l’IA. Dans les plus de 500 pages de l‘édition 2024 publiée récemment, il apporte un éclairage approfondi sur le rythme rapide des progrès de l’IA, de la recherche et du développement à la performance technique et à l’éthique, en passant par l’économie et l’éducation, la politique et la gouvernance de l’IA.
Via ce rapport, le HAI se donne pour mission de fournir des données impartiales, rigoureusement vérifiées et largement sourcées afin que les décideurs politiques, les chercheurs, les cadres, les journalistes et le grand public puissent acquérir une compréhension plus approfondie et plus nuancée du domaine complexe de l’IA.
Pour cette 7ème édition, il a élargi son champ d’action pour couvrir plus largement les tendances essentielles telles que les avancées techniques de l’IA, les perceptions publiques de la technologie et les dynamiques géopolitiques entourant son développement. On peut ainsi y retrouver des estimations sur les coûts de l’entraînement de l’IA, des analyses détaillées du paysage de l’IA responsable ou un chapitre consacré à l’impact de l’IA sur la science et la médecine.
Le rapport du HAI souligne les progrès impressionnants réalisés par les systèmes d’IA ces dernières années. En 2023, ils ont surpassé les performances humaines sur plusieurs benchmarks de référence pour la classification des images, le raisonnement visuel et la compréhension de l’anglais. Cependant, l’IA reste à la traîne sur des tâches plus complexes comme les mathématiques de niveau compétition, le raisonnement visuel de bon sens et la planification.
En 2023, l’industrie a produit 51 modèles d’apprentissage automatique notables, contre 15 pour le monde universitaire. Il y a également eu 21 modèles remarquables résultant de collaborations entre l’industrie et le milieu universitaire en 2023, ce qui constitue également un nouveau record.
Selon les estimations de l’AI Index, les coûts d’entraînement des modèles d’IA de pointe ont atteint en 2023 des niveaux sans précédent. Ainsi l’entraînement de GPT-4 d’OpenAI a coûté environ 78 millions de dollars tandis que celui de Gemini Ultra de Google a atteint un nouveau sommet, revenant à 191 millions de dollars.
Les États-Unis devancent toujours la Chine, l’UE et le Royaume-Uni en tant que principale source de modèles d’IA de pointe. En 2023, 61 modèles d’IA de pointe provenaient d’institutions basées aux États-Unis, loin devant les 21 de l’Union européenne et les 15 de la Chine.
Google a été le plus prolifique avec 18 modèles devant Meta (11), Microsoft (9) et OpenAI (7).
Le rapport du HAI met en lumière l’absence de critères uniformes pour évaluer la responsabilité des systèmes d’IA, ce manque de normalisation rend difficile la comparaison systématique des risques et des limites des différents modèles d’IA. Les principaux développeurs, tels que OpenAI, Google et Anthropic, utilisent ainsi la plupart du temps des benchmarks différents lorsqu’ils testent leurs modèles en termes de responsabilité.
Une normalisation appropriée est cruciale pour renforcer la confiance du public dans l’utilisation de l’IA tout en assurant des pratiques éthiques et transparentes dans le développement et le déploiement de ces technologies.
On a vu l’an passé les investisseurs se tourner vers l’IA générative. Le rapport confirme cette tendance : le financement de la GenAI a été pratiquement multiplié par huit en 2023 par rapport à l’année précédente pour atteindre 25,2 milliards de dollars, et ce, malgré une baisse globale des investissements privés dans l’IA entamée en 2022. Les principaux acteurs du secteur, notamment OpenAI, Anthropic, Hugging Face et Inflection, ont annoncé des levées de fonds importantes.
Le rapport s’appuie sur les données de diverses études publiées en 2023 sur l’impact de l’IA sur la main-d’œuvre. Celles-ci ont démontré que l’IA permettait aux employés d’effectuer leurs tâches plus rapidement tout en améliorant la qualité de leur production et qu’elle permettait de combler l’écart de compétences entre travailleurs peu qualifiés et hautement qualifiés. Toutefois, d’autres études mettent en garde contre le fait que l’utilisation de l’IA sans une supervision adéquate peut entraîner une diminution des performances, ce que le rapport souligne.
En 2022, les modèles d’IA ont été utilisés pour faciliter les simulations sur la fusion de l’hydrogène, améliorer l’efficacité de la gestion énergétique et pour générer de nouveaux anticorps… 2023 a vu le lancement d’applications d’IA ouvrant une nouvelle ère dans la recherche. Le rapport cite notamment AlphaDev, qui optimise l’efficacité du tri algorithmique, et GNoME, qui facilite le processus de découverte de matériaux et a le potentiel de transformer divers secteurs technologiques, tous deux développés par Google DeepMind.
Le HAI, situé en Californie, s’est intéressé à l’encadrement de l’IA aux USA. Il montre que le nombre de réglementations liées à l’IA aux États-Unis a considérablement augmenté au cours des cinq dernières années, passant de une en 2016 à 25 en 2023. Rien que l’année dernière, le nombre total de réglementations liées à l’IA a augmenté de 56,3 %.
La perception du public concernant l’IA évolue. Selon une enquête d’Ipsos, la proportion de personnes estimant que l’IA aura un impact significatif sur leur vie dans les trois à cinq prochaines années est passée de 60 % à 66 % au cours de l’année dernière. De plus, 52 % des répondants ont exprimé leur nervosité à l’égard des produits et services liés à l’IA, ce qui représente une augmentation de 13 % par rapport à 2022. Aux États-Unis, selon les données de Pew, 52 % des Américains se disent plus préoccupés qu’enthousiastes à l’égard de l’IA, contre 37 % en 2022.
Retrouver l’intégralité du rapport ici
Le premier ministre japonais Fumio Kishida était cette semaine en visite officielle aux USA où il a évoqué avec Joe Biden les tensions politiques, le renforcement de leur coopération en matière de défense et technologie, notamment en matière d’IA. Il a également rencontré Brad Smith, le vice-président et président de Microsoft qui a annoncé l’intention d’investir 2,9 milliards de dollars au cours des deux prochaines années pour accroître son infrastructure de cloud computing et d’IA à grande échelle au Japon.
Il y a deux marchés dans lesquels le Japon tente de rattraper son retard : celui de l’IA et celui des semi-conducteurs. Microsoft, y a installé son premier bureau international, ces 2,9 milliards de dollars représentent son plus gros investissement en 46 ans d’histoire au Japon.
L’expansion de son infrastructure d’IA et de cloud permettra à Microsoft de fournir des ressources informatiques plus avancées au Japon, y compris les dernières unités de traitement graphique (GPU), qui sont cruciales pour accélérer les charges de travail de l’IA. Ce qui lui permettra de soutenir le Generative AI Accelerator Challenge (GENIAC), un programme dirigé par le ministère de l’Économie, du Commerce et de l’Industrie qui aide les startups et les entreprises japonaises à obtenir les ressources informatiques nécessaires au développement de modèles de fondation et à encourager la collaboration entre les parties prenantes.
Microsoft s’est engagé en outre à former pas moins de 3 millions de travailleurs japonais à temps plein et à temps partiel au cours des trois prochaines années, dans le but de doter le pays des compétences nécessaires. La société a annoncé plusieurs initiatives, notamment une formation dédiée aux femmes, des cours et des architectures de référence pour les développeurs d’IA et les entreprises technologiques, une aide à la mise en œuvre de programmes centrés sur l’IA dans les lycées professionnels.
Ces formations seront dispensées en partenariat avec des institutions de renom telles que l’Institut des Nations Unies pour la formation et la recherche (UNITAR). Microsoft soutiendra également les jeunes pousses japonaises par le biais du Microsoft for Startups Founders Hub.
Microsoft Research Asia va ouvrir un laboratoire à Tokyo qui se concentrera sur des domaines clés tels que l’IA incarnée, la robotique et l’IA sociétale.
Le centre de recherche collabore étroitement avec des universités, des instituts de recherche et des entreprises technologiques de la région Asie-Pacifique, notamment avec les universités japonaises depuis plus de deux décennies, ce qui a d’ailleurs contribué à propulser la recherche interdisciplinaire et à encourager les talents.
Afin de favoriser une meilleure collaboration en matière de recherche, Microsoft accordera 10 millions de dollars de subventions de ressources au cours des cinq prochaines années à l’Université de Tokyo et au partenariat de recherche en intelligence artificielle entre l’Université Keio et l’Université Carnegie Mellon.
Nvidia, Amazon et d’autres entreprises privées soutiennent également ces partenariats entre les universités des 2 pays, 110 millions de dollars y seront consacrés.
Microsoft a d’autre part l’intention d’approfondir sa collaboration avec le secrétariat du Cabinet japonais pour renforcer la résilience en matière de cybersécurité du gouvernement, des entreprises et de la société.
C’est dans son premier blog Microsoft que Mustafa Suleyman vient d’annoncer la création de Microsoft AI London, un nouveau centre d’IA. Il sera dirigé par Jordan Hoffmann, un scientifique et ingénieur en IA que Microsoft a récemment recruté en même temps que lui.
Jordann Hoffmann est loin d’être un inconnu pour Mustafa Suleyman. Il a travaillé au sein de 2 start-ups basées à Londres cofondées par ce dernier : DeepMind puis Inflection AI, passée au rang de licorne lors d’une levée de fonds dirigée entre autres par Microsoft en juin 2023.
Mustafa Suleyman y a été recruté en tant que Vice-Président exécutif et chef de la direction de Microsoft AI, une nouvelle organisation axée sur l’avancement de Copilot et d’autres produits et recherches sur l’IA grand public comme Bing ou Edge. Jordann Hoffmann fait partie des collaborateurs qui l’ont suivi dans cette nouvelle aventure tout comme Karén Simonyan, expert en deep learning et lui aussi cofondateur d’Inflection AI, embauché en tant que scientifique en chef.
Mustafa Suleyman précise que “Microsoft AI London mènera des travaux pionniers visant à faire progresser les modèles de langage de pointe et leur infrastructure de prise en charge, et à créer des outils de classe mondiale pour les modèles de base, en collaborant étroitement avec nos équipes d’IA au sein de Microsoft et avec nos partenaires, y compris OpenAI” ajoutant “Hoffmann sera rejoint par un groupe talentueux de membres de l’équipe Microsoft AI basés dans notre bureau de Londres Paddington”.
Le hub Microsoft AI London s’ajoute à la présence existante de Microsoft au Royaume-Uni, notamment le laboratoire Microsoft Research Cambridge, qui abrite certains des plus grands chercheurs dans les domaines de l’IA, du cloud et de la productivité. Il s’appuie sur l’investissement de 2,5 milliards de livres sterling annoncé en novembre dernier par Microsoft et le gouvernement britannique pour étendre son infrastructure de centre de données IA de nouvelle génération, soutenir les efforts du Royaume-Uni en matière de sécurité et de recherche dans le domaine de l’IA et et assurer la formation de plus d’un million de personnes.
Mustafa Suleyman indique :
“Dans les semaines et les mois à venir, nous publierons des offres d’emploi et embaucherons activement des personnes exceptionnelles qui souhaitent travailler sur les questions d’IA les plus intéressantes et les plus difficiles de notre époque. Nous recherchons de nouveaux membres d’équipe qui sont motivés par l’impact à grande échelle et qui sont des innovateurs passionnés désireux de contribuer à une culture d’équipe où l’apprentissage continu est la norme”.
Ah la la, Google… Le géant du web se retrouve face à un sacré casse-tête avec l’arrivée de l’intelligence artificielle dans son moteur de recherche. Figurez-vous qu’ils envisagent de faire payer les utilisateurs pour accéder à cette fonctionnalité expérimentale ! Du jamais vu chez Google, qui a toujours tout misé sur la gratuité, mais voilà, l’IA coûte cher, très cher même. Et surtout, elle vient complètement bouleverser le modèle économique de Google, basé, comme vous le savez sur la publicité.
Parce que oui, Google Search, c’est une vraie machine à cash et les annonceurs payent pour que leurs pubs s’affichent dans les résultats de recherche et sur les sites web que vous visitez ensuite. Sauf que l’IA, elle, elle digère le contenu des pages web pour vous donner une réponse claire, nette et précise. Plus besoin de cliquer sur les liens, donc plus de pubs vues, et moins de revenus pour Google (et pour moi aussi du coup ^^, mais je m’en fous, j’ai mon Patreon !).
Ironique, non ?
En plus, générer une réponse avec l’IA consomme bien plus de ressources et d’énergie qu’une simple page de résultats. Bref, Google est face à un vrai dilemme : Comment rentabiliser son IA sans tuer sa poule aux œufs d’or ?
Mais ne vous inquiétez pas, ils vont bien trouver une solution. Peut-être en proposant aux marques de sponsoriser certaines requêtes, comme le fait Perplexity, ou alors en faisant payer uniquement les utilisateurs les plus gourmands. On verra bien… mais une chose est sûre, Google va devoir faire preuve de créativité et d’adaptation pour rester le roi de la recherche en ligne. Surtout que la concurrence est rude, avec Microsoft et son nouveau Bing dopé à l’IA, ou encore les petits nouveaux comme You.com.
C’est fou tout ce qui se passe en ce moment. Tout a déjà tellement changé depuis le 30 novembre 2022, date à laquelle on a tous découvert ChatGPT pour la première fois… Des géants vont tomber, d’autres sont peut-être déjà nés. Et puis, moi et mon petit site web d’artisan du web, et bien on verra bien comment je me ferais manger 😉
La recherche Paris (pour soins palliatifs et risques suicidaires) a été retenue dans le cadre de l’appel à projets de l’Inserm Messidore. Elle vise à ...
L’article Recherche : soins palliatifs, risques suicidaires et maladies psychiatriques est apparu en premier sur Santé Mentale.
Le programme de recherche (PEPR) Intelligence Artificielle, lancé le 25 mars dernier, co-piloté par le CEA, le CNRS et Inria, est doté d’un budget de 73 millions d’euros sur six ans, financé par France 2030 dans le cadre de la stratégie nationale pour l’intelligence artificielle. Il vise à accompagner l’accélération de la France dans le domaine de l’IA à travers trois grandes thématiques de recherche : l’IA frugale et embarquée, l’IA de confiance et distribuée et les fondements mathématiques de l’IA.
Les objectifs du PEPR IA sont multiples, notamment renforcer l’écosystème français de recherche et d’innovation, lever les verrous du déploiement de l’IA, faire émerger des technologies de rupture, et positionner la France et l’Europe comme des leaders sur des thématiques stratégiques. Il vise à passer de la recherche fondamentale aux preuves de concept, en se concentrant sur des domaines tels que l’IA frugale, l’IA embarquée, l’IA de confiance et l’IA distribuée.
Le PEPR IA vise également à faciliter l’interdisciplinarité, attirer les talents notamment en s’appuyant sur Choose France pour encourager l’installation des titulaires de chaires en France et créer des passerelles entre la recherche publique et l’innovation, en collaboration avec les start-ups et les PME. Il s’inscrit ainsi pleinement dans la seconde phase de la stratégie nationale pour l’IA axée sur la formation à l’IA, le développement d’une offre de technologies deeptech sur l’IA embarquée, l’IA de confiance, l’IA frugale et l’IA générative ainsi que le rapprochement de l’offre et de la demande de solutions d’IA.
Les objectifs de ces trois grandes thématiques de recherche correspondant à des problématiques centrales autour de l’IA et de la souveraineté sont :
• La recherche sur l’IA frugale et l’IA embarquée se concentre sur le développement de technologies d’IA qui soient efficaces en termes de ressources et qui puissent être intégrées dans des appareils et des systèmes embarqués. Son ambition est d’identifier les architectures logicielles, les méthodologies d’apprentissage frugal d’entraînement sur des bases de données maîtrisées et l’optimisation avancée des applications pour rationaliser au maximum la consommation énergétique des systèmes d’IA à base d’apprentissage machine.
• La recherche engagée sur l’IA de confiance et distribuée vise à améliorer la compréhension des défis liés à la robustesse, à la confidentialité et à la sécurité des systèmes d’IA, notamment ceux opérant dans des environnements décentralisés. Son objectif est de développer des méthodologies pour renforcer la fiabilité, évaluer et qualifier ces systèmes en conformité avec les normes de confiance et de régulation.
• Les axes de recherche sur les fondements mathématiques de l’IA vont stimuler l’écosystème national de recherche en sciences mathématiques vers la construction et l’analyse des fondements des systèmes d’IA.
Neuf projets répartis autour de ces trois grandes thématiques ont été définis en concertation avec des experts en IA et la communauté de recherche, impliquant plus de 50 équipes françaises réparties sur tout le territoire, favorisant ainsi une dynamique nationale de recherche.
Bruno Bonnell, secrétaire général du plan d’investissement (SGPI), chargé de piloter France 2030, explique :
“Le choix des axes de ce programme repose sur les avantages compétitifs sur lesquels la France peut assurer un leadership avéré. Ce sont surtout les socles sur lesquels reposent les percées technologiques qui façonneront l’IA de demain. Comme pour tous les PEPR, on confie aux pilotes des programmes de recherche eux-mêmes le soin de fédérer leur communauté, autour d’actions « dirigées » et d’excellence scientifique. Ainsi l’Etat oriente, mais fait confiance aux acteurs de la recherche eux-mêmes, aux chercheurs et aux enseignants chercheurs, pour faire avancer la discipline, la recherche, et à terme, ses conséquences pour l’industrie et pour le pays tout entier”.
La Fondation FondaMental ouvre l’appel à candidatures pour le Prix FACE 2024 pour la recherche en psychiatrie, avec le soutien de Boehringer Ingelheim France. Depuis ...
L’article Appel à candidature : Prix Face 2024 est apparu en premier sur Santé Mentale.
Le pôle BioAnalyse d’AdvanThink, un éditeur français de logiciel spécialisé dans l’exploitation et l’exploration de données massives et complexes, annonce son partenariat avec Sylvia Cohen-Kaminsky, Directrice de Recherche au CNRS et chercheuse reconnue pour ses travaux sur l’hypertension artérielle pulmonaire (HTAP), menés au sein de l’unité Inserm UMR-S 999 à l’Université Paris Saclay.
L’Inserm UMR-S 999 est un acteur majeur de la recherche translationnelle nationale et internationale sur l’hypertension artérielle pulmonaire (HTAP), une maladie chronique évolutive des vaisseaux sanguins des poumons, qui peut conduire à une insuffisance cardiaque droite.
Cette collaboration est née lors des “Rendez-vous de Bioanalyse Paris Saclay”, des séminaires scientifiques interactifs mensuels, portant uniquement sur des sujets de recherche, à un stade pré-compétitif et non commercial. Fruit de discussions approfondies, elle vise à exploiter et explorer les vastes quantités de données générées par Sylvia Cohen-Kaminsky et son équipe dans le contexte de l’HTAP. L’objectif est de mieux comprendre le positionnement physiopathologique d’une cible thérapeutique potentielle identifiée dans le cadre de cette maladie.
Une approche multiomique est nécessaire pour comprendre la finesse des mécanismes moléculaires mis en jeu dans des pathologies d’origine multifactorielle comme l’HTAP. Des données transcriptomiques, protéomiques et lipidomiques ont donc été produites dans le cadre de ce projet.
Chacune de ces dimensions omiques permet d’éclairer sur certains aspects de la pathologie. L’enjeu consiste donc à analyser, de manière combinée, ces différents types de données, afin d’additionner les contributions de chacune d’elles et d’obtenir, au final, une vision la plus holistique possible des mécanismes moléculaires entourant la cible potentielle identifiée et leur aspect critique dans le cadre de l’HTAP.
De son côté, AdvanThink, pionnier dans le domaine du Machine Learning depuis 1990, fournit l’expertise technologique nécessaire pour exploiter efficacement ces données massives et complexes. Son pôle Bioanalyse, composé de biologistes expérimentés, joue un rôle essentiel dans la collecte, l’analyse et l’interprétation des données biologiques de ce projet. Leur expertise contribuera à éclairer les avancées de la recherche médicale dans le domaine de l’HTAP.
Jean-Philippe Meyniel, PhD Head of Bio & Health Dept, et Brice Perdrix, CEO AdvanThink soulignent:
“L’HTAP est une maladie complexe et ses mécanismes moléculaires représentent un formidable terrain de jeu pour relever ce challenge avec un outil tel que notre plateforme de Data Science Amadea”.
Sylvia Cohen-Kaminsky, apporte son regard critique et son expertise opérationnelle essentielle à l’analyse des données, avec le soutien de son étudiant en thèse, Florent Dumont. Elle conclut :
“L’HTAP est une maladie rare (48 à 55 cas par million), mais pas orpheline. Plusieurs actifs de la classe des vasodilatateurs sont approuvés et utilisés en combinaison bi- voire tri-thérapie. Ils prolongent la survie des patients, mais ne sont pas curatifs. Identifier de bonnes cibles dans un réseau moléculaire complexe, celles centrales dans le mécanisme de remodelage vasculaire pulmonaire conduisant à l’HTAP, est le challenge que nous allons relever avec AdvanThink”.
Vendredi dernier, en visite à l’Ecole Polytechnique de Palaiseau dans l’Essonne, Sébastien Lecornu, Ministre des Armées, a dévoilé la prochaine création d’AMIAD, (Agence Ministérielle pour l’IA de Défense) dont le pôle de recherche sera situé sur le site même de l’école. Il a également annoncé que son ministère allait se doter de son propre supercalculateur “le plus gros dédié à l’IA et classifié en Europe” d’ici 2025.
En avril 2019, Florence Parly, Ministre des Armées, présentait sa stratégie sur l’intelligence artificielle, rappelant qu’il s’agissait d’une priorité pour la défense nationale française, la feuille de route était dévoilée au mois de septembre suivant. Pour le ministère, l’IA doit passer dorénavant à l’échelle industrielle.
La loi de finance pour 2024 consacre 130 millions d’euros à l’IA de Défense, un budget qui devrait être doublé d’ici la fin de la loi de programmation militaire 2024-2030, soit un total de 2 milliards d’euros dédiés au domaine. En 2026, près de 800 personnes travailleront sur l’IA au ministère des Armées.
Sébastien Lecornu a déclaré lors de sa visite à l’école d’ingénieur :
“Les Armées doivent prendre le virage de l’intelligence artificielle. C’est pourquoi j’annonce la création d’une nouvelle Agence ministérielle pour l’IA de défense (AMIAD) avant cet été. Elle aura pour mission de permettre à la France de maîtriser souverainement ces technologies pour ne pas dépendre des autres puissances”.
Le volet “recherche” d’AMIAD sera basé sur le site de l’établissement, le volet “production”, sera quant à lui installé à Bruz, près de Rennes, où se trouvent le 2ème Régiment du matériel (2e Rmat), spécialisé dans la maintenance des matériels de l’Armée de terre, mais également le site de DGA Maîtrise de l’information, expert technique du ministère des Armées, notamment en matière de cybersécurité.
L’agence, à laquelle seront consacrés environ 300 millions d’euros chaque année, devrait compter, à terme, 300 personnes dont des chercheurs et des experts civils et militaires. Elle sera dirigée par Bertrand Rondepierre, polytechnicien et normalien (ENS Cachan), rapporteur de la mission Villani sur l’IA. Il a été “Product Manager & Architecte IA – Big Data” à la DGA entre 2013 et octobre 2018 avant de rejoindre le mois suivant Google Deepmind comme “Future Products Program lead” jusqu’en décembre dernier.
Pour traiter les données “secret défense”, l’agence disposera de son propre supercalculateur auquel le Ministère va consacrer entre 200 et 300 millions. Il devrait entrer en service dès l’année prochaine, les entreprises de la base industrielle et technologique de défense y auront également accès tout comme d’autres ministères.
De nombreux projets autour de l’IA sont d’ores et déjà en cours de développement, notamment celui de développer une solution d’analyse automatisée de l’acoustique sous-marine dans le but d’assister le travail des “oreilles d’or” de la Marine nationale.
Sébastien Lecornu commente :
“Le saut technologique que représente l’intelligence artificielle est sans doute celui qui révolutionnera la manière de faire la guerre. Ou même, plus important encore, de l’éviter comme l’atome en son temps”.
IA-Armee-Sebastien-Lecornu-annonce-creation-AMIAD-acquisition-supercalculateur
Des chercheurs du MIT, de Princeton et de l’Université de Stanford ont publié la semaine dernière une lettre ouverte demandant aux entreprises d’IA de fournir des protections juridiques et techniques pour la recherche de bonne foi sur leurs modèles d’IA générative. Soulignant l’importance de l’évaluation et du red teaming indépendants pour identifier les risques des systèmes d’IA génératifs, elle a recueilli aujourd’hui plus de 300 signatures de chercheurs en IA, juristes, éthiciens, sociologues et défenseurs de différentes disciplines.
Shayne Longpre, Sayash Kapoor, Kevin Klyman, Ashwin Ramaswami, Rishi Bommasani, Arvind Narayanan, Percy Liang et Peter Henderson sont les auteurs de la lettre ouverte “A Safe Harbor for independant AI Evaluation” basée sur l’article de recherche “A Safe Harbor for AI Evaluation and Red Teaming” auxquels ils ont concouru avec 15 autres auteurs.
L’évaluation indépendante des modèles d’IA générative déjà déployés est d’une importance primordiale pour assurer la sûreté, la sécurité et la confiance. Des études ont révélé des vulnérabilités diverses, allant des problèmes liés à la sécurité aux biais algorithmiques, notamment sociaux, en passant par les questions de droits d’auteur. Cependant, seuls un nombre restreint de chercheurs sélectionnés par les entreprises ont accès à cette évaluation, créant ainsi une inégalité dans l’accès à l’information critique.
Les auteurs de la lettre déclarent dans un billet de blog :
“Malgré la nécessité d’une évaluation indépendante, la recherche liée à ces vulnérabilités est souvent interdite par la loi par les conditions d’utilisation des modèles d’IA populaires, notamment ceux d’OpenAI, de Google, d’Anthropic, d’Inflection, de Meta et de Midjourney. Bien que ces termes soient destinés à dissuader les acteurs malveillants, ils restreignent également par inadvertance la recherche sur la sécurité et la fiabilité de l’IA”.
Pour eux, même si les entreprises appliquent ces restrictions à des degrés divers, les conditions peuvent décourager la recherche de bonne foi en accordant aux développeurs le droit de résilier les comptes des chercheurs ou même d’intenter une action en justice contre eux.
Dans le tableau ci-dessous, ils mettent en évidence les lacunes dans les politiques d’ OpenAI, Google, Cohere, Anthropic, Inflection, Meta et Midjourney, qui, selon eux, “obligent les chercheurs bien intentionnés à attendre l’approbation des programmes d’accès des chercheurs qui ne répondent pas, ou à risquer d’enfreindre la politique de l’entreprise et de perdre l’accès à leurs comptes”.
Ils soulignent toutefois que Cohere et OpenAI sont des exceptions, “bien qu’une certaine ambiguïté subsiste quant à la portée des activités protégées”.
Selon les chercheurs, entraver les recherches indépendantes n’est pas dans l’intérêt des entreprises d’IA. Pour que la recherche indépendante sur l’IA puisse se dérouler dans un environnement favorable, sans crainte de représailles, ils demandent aux entreprises d’IA de fournir une sphère de sécurité établissant des normes minimales de protection juridique et technique pour protéger la recherche d’intérêt public.
Ils estiment que ces protections amélioreraient considérablement les normes écosystémiques et favoriseraient des efforts communautaires plus inclusifs et sans entrave pour lutter contre les risques de l’IA générative.
chercheurs-IA-protection-recherche-independante-modeles-GenAI
Together AI, une startup de recherche en IA basée à San Francisco qui s’est donnée pour mission de faire avancer les frontières de l’IA open source, a récemment publié EVO, un modèle de fondation génomique qui permet des tâches de prédiction et de génération de l’échelle moléculaire à l’échelle du génome, développé en collaboration avec Arc Institute, une organisation de recherche à but non lucratif basée à Palo Alto, près de San Francisco.
Le génome est une séquence qui code complètement l’ADN, l’ARN et les protéines qui orchestrent le fonctionnement d’un organisme. La modélisation des génomes entiers se heurte à deux défis majeurs: les séquences d’ADN sont extrêmement longues (jusqu’à des milliards de nucléotides) et la sensibilité requise pour comprendre pleinement les effets de l’évolution (qui se produit un nucléotide à la fois). En conséquence, les avancées existantes dans la modélisation de séquences biologiques avec l’IA se sont plutôt concentrées sur des capacités spécifiques à une tâche ou à modalité unique.
Les chercheurs de Together AI et de l’Arc Institute ont cherché à surmonter ces difficultés inhérentes à la modélisation de génomes entiers pour développer un modèle qui puisse comprendre non seulement les composants individuels de l’ADN, de l’ARN et des protéines, mais aussi comment ils interagissent pour créer des systèmes complexes.
Plutôt que l’architecture Transformer habituellement utilisée, ils ont opté pour l’architecture hybride StripedHyena, une architecture de traitement du signal en profondeur récemment introduite par Together Research, combinant l’attention rotative et les opérateurs d’hyène pour traiter et rappeler efficacement des modèles dans de longues séquences. Grâce à ses capacités de long contexte et son mode d’inférence efficace, elle leur a permis de générer des séquences allant jusqu’à 650k sur un seul GPU.
Architecture d’EVO
Le modèle EVO 1, qui compte 7 milliards de paramètres, a été entraîné sur OpenGenome, un ensemble de données procaryotes sur le génome entier contenant environ 300 milliards de jetons. Il peut non seulement générer à l’échelle de plusieurs molécules (protéines et ARNnc), mais il a également le potentiel de générer des séquences à l’échelle des génomes entiers :
Evo effectue une prédiction de fonction zéro-shot pour les protéines, les ARN non codants et l’ADN régulateur
Evo est le premier du genre à prédire et générer des séquences d’ADN à l’échelle du génome entier avec une résolution mononucléotidique, marquant un tournant dans la modélisation de séquences biologiques. Selon les chercheurs, il a le potentiel d’accélérer la découverte et la compréhension dans les sciences (biologie, chimie, science des matériaux…), ainsi que d’être appliqué à des problèmes concrets comme la découverte de médicaments, l’agriculture et la durabilité.
Ils soulignent l’importance de garantir un déploiement sécurisé de modèles ADN à grande échelle comme Evo, et ce, dans l’intérêt de l’humanité. Dans leur article, ils proposent une discussion approfondie sur les risques potentiels et les mesures de précaution à prendre.
Le modèle est disponible sur HuggingFace, GitHub, via l’API Together et<Playground.
Références : Blog Together AI
Article : “Sequence modeling and design from molecular to genome scale with Evo”en prépublication sur BiorXiv, https://doi.org/10.1101/2024.02.27.582234
Auteurs et affiliations :
génome
La recherche montre que les mères qui ont une relation d’attachement insécure à leur conjoint sont plus à risque de développer une dépression périnatale et de présenter des difficultés de régulation émotionnelle.
L’article Dépression périnatale et attachement au conjoint est apparu en premier sur Santé Mentale.
Réguler le changement métabolique observé dans les cellules sénescentes pourrait être une stratégie prometteuse pour cibler la sénescence cellulaire dans les maladies liées au vieillissement. Communiqué ...
L’article Maladies liées au vieillissement : la piste du changement métabolique au niveau des cellules sénescentes est apparu en premier sur Santé Mentale.
Certains facteurs ont une grande influence sur les réponses immunitaires : l’âge, le sexe, les gènes… mais aussi le tabagisme. C’est ce que vient de mettre ...
L’article La tabagisme a des effets à long terme sur le système immunitaire est apparu en premier sur Santé Mentale.
Les grands modèles de langage pré-entraînés, tels que GPT-4 ont révolutionné le domaine du traitement du langage naturel (NLP) en offrant des performances de pointe sur de nombreuses tâches. Cependant, ces modèles sont également très coûteux en termes de ressources, tant pour l’entraînement que pour l’inférence. Des chercheurs de Microsoft Research et de l’ETH Zurich ont développé SliceGPT, une nouvelle méthode de compression post-entraînement pour les modèles de langage pré-entraînés, basée sur la suppression de parties des matrices de poids du réseau.
Les LLMs nécessitent des infrastructures de calcul massives, ce qui limite leur accessibilité et leur déploiement dans divers contextes.
Pour réduire ces coûts, de nombreuses méthodes de compression ont été proposées, telles que la distillation, la quantification, le pruning ou la factorisation. Ces méthodes visent à réduire la taille du modèle, le nombre d’opérations ou la complexité du réseau, tout en préservant les performances du modèle original.
Avec SliceGPT, les chercheurs proposent une nouvelle méthode de compression post-entraînement pour les modèles de langage pré-entraînés, basée sur la suppression de parties des matrices de poids du réseau.
Pour réaliser cette compression, SliceGPT utilise l’analyse en composantes principales (PCA), une méthode statistique qui permet de transformer un ensemble de variables corrélées en un nouvel ensemble de variables non corrélées, appelées composantes principales. Ces composantes capturent l’essentiel de la variabilité des données d’origine.
Dans le contexte de SliceGPT, la PCA est utilisée pour calculer des transformations orthogonales à chaque couche du réseau. Ces transformations permettent de projeter le signal entre les blocs du réseau sur ses composantes principales. Ensuite, SliceGPT supprime les composantes principales mineures, ce qui revient à découper des lignes ou des colonnes des matrices modifiées des poids du réseau.
Ce processus de compression est conçu de manière à préserver l’invariance computationnelle du réseau, ce qui signifie que les prédictions du modèle ne sont pas altérées après la compression. En d’autres termes, bien que le modèle soit réduit en taille, il est capable de maintenir ses performances et de produire des résultats similaires à ceux obtenus avec le modèle original non compressé.
EvaluationsLes chercheurs ont évalué les performances de SLICEGPT sur les familles de modèles OPT, LLAMA-2 et Phi-2, en utilisant les jeux de données WikiText-2 et Alpaca pour la calibration. Ils montrent que SLICEGPT peut compresser ces modèles jusqu’à 30% en conservant une perplexité et une précision compétitives, tout en réduisant le temps d’inférence et le nombre de GPU nécessaires.
Ils ont également comparé SLICEGPT à d’autres méthodes de compression, SLICEGPT offre un meilleur compromis entre la taille du modèle, la qualité du langage et la vitesse d’inférence.
Ils ont réduit le coût de l’inférence du modèle LLAMA-2 70B sur des GPU A100 de 40 Go à 66% de celui du modèle dense sans aucune optimisation de code supplémentaire, en nécessitant moins de GPU (passant de 4 à 3).
Sur des GPU RTX6000 de 24 Go, le coût de l’inférence est réduit à 64%, nécessitant 2 GPU de moins (passant de 7 à 5). Sur des tâches secondaires sans entraînement, en découpant les modèles OPT 66B, LLAMA-2 70B et Phi-2 à 25%, ils maintiennent 99%, 96% et 87% des performances du modèle dense. Avec le réglage fin de récupération, les modèles LLAMA-2 70B et Phi-2 découpés à 25% augmentent respectivement à 99% et 90% de performance.
Les chercheurs espèrent que leurs travaux pourront aider de futures recherches à améliorer l’efficacité des modèles d’apprentissage profond, et peut-être inspirer de nouvelles perspectives théoriques.
Références de l’article :
“SLICEGPT: COMPRESS LARGE LANGUAGE MODELS BY DELETING ROWS AND COLUMNS”
https://doi.org/10.48550/arXiv.2305.18403
Auteurs :
Saleh Ashkboos, Torsten Hoefler, ETH Zurich,
Maximilian L. Croci, James Hensman, Microsoft Research
Marcelo Gennari do Nascimento, Microsoft
SliceGPT une nouvelle méthode de compression des LLMs efficace
Les 28 et 29 mars 2024 ont lieu à Lyon les 8es Rencontres pour la Recherche en Soins en Psychiatrie. Marie-Hélène Goulet, PhD en sciences ...
L’article « Les jeunes chercheurs en sciences infirmières sont des agents de changement ! » est apparu en premier sur Santé Mentale.
