- ExpressInfo
- Posts
- GPT-4 est-il trop puissant ?
GPT-4 est-il trop puissant ?
Elon Musk et des experts appellent à une pause, évoquant des risques majeurs pour l'humanité
Bonjour. Des experts proposent d'interrompre, pendant au moins six mois, la formation de systèmes d'IA plus puissants que GPT-4, Emmanuel Macron essaye de tourner la page des retraites, et des scientifiques australiens ont créé une boulette de viande de mammouth en laboratoire.
Programme d’aujourd'hui :
High Tech : Des experts proposent d'interrompre la formation de systèmes d'IA plus puissants que GPT-4.
Insolite : Du mouton, de l’éléphant et du mammouth.
À la une : UBS rappelle son ancien patron Sergio Ermotti pour piloter l'intégration de Credit Suisse.
L'IDÉE PRINCIPALE

Photo : Adobe stock (taa22)
GPT-4 est-il trop puissant ?
Des experts appellent à une pause, évoquant des risques majeurs pour l'humanité.
Le courrier a été signé par plus de 1.100 signataires, dont :
Elon Musk
Steve Wozniak, cofondateur d'Apple
Gary Marcus, professeur spécialiste de l'IA
Noam Shazeer, fondateur de Character.ai
Emad Mostaque, fondateur de Stability AI
Cette pause devrait être publique et vérifiable, et inclure tous les acteurs clés. Si une telle pause ne peut être mise en place rapidement, les gouvernements doivent intervenir et instaurer un moratoire.
« Risques profonds pour la société et l'humanité »
L'IA avancée pourrait représenter un changement profond dans l'histoire de la vie sur Terre, et devrait être planifiée et gérée avec l'attention et les ressources nécessaires », expliquent-ils sur ce courrier disponible sur le site de Future of Life Institute.
Perdre le contrôle
Comme dans les scénarios de film de science-fiction, ils vont même jusqu'à s'interroger : devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ?
Sam Altman, Président d'OpenAI
Déjà Elon Musk, qui est à l'origine investisseur d'Open AI, avait fait part de ses réserves sur les menaces possibles de l'IA. Et le patron d'OpenAI, concepteur de chatGPT, Sam Altman a lui-même reconnu être « un petit peu effrayé » par sa création si elle était utilisée pour de « la désinformation à grande échelle ou des cyberattaques ».
En Europe, la réglementation sur l'IA n'en est qu'à ses débuts.
La lettre d’Elon Musk et d'autres experts contraste avec celle de Bill Gates, il y a quelques jours. Tout en relevant les menaces potentielles de l'IA, le cofondateur de Microsoft affirmait que ChatGPT était la plus grande révolution technologique depuis les années 1980 et mettait en avant son potentiel apport pour réduire les inégalités.
Ce qu’il faut retenir : Elon Musk et des centaines d'experts mondiaux ont signé un appel à une pause de six mois dans la recherche sur les intelligences artificielles plus puissantes que ChatGPT 4. Ils s'inquiètent des menaces sur l'emploi, la désinformation et même sur le risque de perdre le contrôle de notre civilisation.
À LA UNE
UBS a choisi de refaire équipe avec Sergio Ermotti, qui a déjà dirigé le groupe de 2011 à 2020. (Echos)
AIRBUS renonce à prendre une participation dans Evidian, l’entité cyber et cloud d'Atos. (BFM)
Le pape François hospitalisé pour bilan médical, son agenda remanié. (Challenge)
Pimkie annonce /la fermeture de 64 magasins et la suppression de 257 postes d'ici 2027. (Figaro)
Les ventes de montres et de bijoux s'envolent de 20% en France et battent un record. (BFM)
INSOLITE

© Aico Lind
Une boulette de viande de mammouth a été créée par des scientifiques australiens
C’est aux Pays-Bas, que la start-up Vow, a dévoilé une boulette géante de viande de mammouth.
Cultivée en laboratoire à partir de l’ADN d’un mammouth laineux.
Les scientifiques ont dévoilé cette viande cultivée en laboratoire d’une espèce éteinte il y a 4 000 ans.
Du mouton, de l’éléphant et du mammouth
Pour créer cette boulette de viande, ils ont utilisé des cellules de mouton dans lesquelles ils ont inséré un gène de mammouth appelé "myoglobine" qu’ils ont ensuite reproduit pour que le gène mammouth soit plus présent que le gène mouton dans le résultat final. La séquence ADN du mammouth ayant des lacunes, l’équipe a dû utiliser de l’ADN d’éléphant d’Afrique pour la compléter.
Vow n’est pas la première entreprise à proposer de la viande in vitro, de nombreuses autres tentent de percer le marché et l’ont d’ailleurs déjà fait aux USA ou en Israël.
Bonne journée,