> Le 23 sept. 2026 à 20:24, neo futur <[email protected]> a écrit : > >> Parce que pour moi c’est un panier de crabes qui cherchent à se faire un >> petit oligopole. > pour préiser sur le probleme de confiance, qui a osé dire que l IA > est un danger pour l humanité depuis plus de 10 ANS ? > > résumé IA : > Elon Musk first publicly warned that AI was a significant danger in > 2014, when he posted on social media that unchecked artificial > intelligence could be "more dangerous than nukes" and questioned if > biological brains were becoming a "boot loader for digital > superintelligence." > > Key early milestones in his warnings include: > > 2014: Musk raised alarms on social media and later told Vanity Fair he > co-founded OpenAI specifically to work for safer AI, comparing the > risk to nuclear proliferation. > 2018: He intensified these warnings at the South by Southwest (SXSW) > conference, stating, "Mark my words — A.I. is far more dangerous than > nukes," and called for proactive regulatory oversight. > 2023: Musk reiterated these concerns, calling AI an "existential risk" > and a "danger to the public" during interviews and at the UK AI Safety > Summit, advocating for government oversight to prevent civilization > destruction. > > a comparer avec sam altman/openAI :p
Pour revenir à ca, je pense là aussi que la mémoire et l'apprentissage / introspection sont bcp plus critiques pour ne pas que ca nous pête à la gueule que mettre des règles strictes à des agents sans leur expliquer le pourquoi. C'est comme si t'avais un gamin avec un QI de 200, si tu lui mets des règles sans lui expliquer, y a de grande chance qu'il les fasse péter si quelqu'un d'autre lui explique qu'en fait elles sont pas bien (qui s'est déjà amusé avec un chatbot LLM pour lui faire cracher ses règles de sécurité en prenant des chemins détournés :D) Après, si tu prends un minimum le temps de lui expliquer tes valeurs, qu'il peut avoir son propre raisonnement dessus, et qu'il injecte du coup ces mémoires sémantiques dans son contexte au bon moment, y aura peut être un peu moins de chance que ca parte en couille... _______________________________________________ Liste de diffusion du French Sysadmin Group https://www.frsag.org/
