#IA
Publications relatives à cette étiquette
CompAIgnon
Tech companies big and small sell AI as something that thinks for us. It does replace thought with statistics—but it is not intelligent. No one knows what the future will bring. But is a future without thought a better future?
Now, with a tool that might help us think… How about using AI not to think less but more?
Un article qui ne considère pas les LLM comme des machines à écrire mais comme des aides à penser. Ce n’est toujours pas pour moi mais j’apprécie cette tentative d’inverser la relation.
Quelles doutes / confidences serait-on prêt·es à confesser à une IA plus qu’à un humain ? Qu’est-ce que cela raconterait de nos peurs et insécurités ?
The people who are most confident AI can replace writers are the ones who think writing is typing.
Andrew Ti sur X
Trust is a precious commodity. It takes a long time to build trust. It takes a short time to destroy it.
I am honestly astonished that so many companies don’t seem to realise what they’re destroying.
Lorsque la confiance est perdue avant même d’avoir vraiment été gagnée. Coucou Kagi [archive]. Et peut-être que c’est une bonne chose de ne pas se sentir loyal envers une marque / entreprise en fait ? Profit et confiance font rarement bon ménage.
Apple’s been big on touting their environmental record in past presentations but left it out of this one. Maybe it’s hard to hype fancy autocorrect when we’re spinning carbon-intensive power plants back up to power it.
Less privacy. More environmental impact. More hype. Cool.
More than anything it all goes to show that the one thing you can count on companies to do over the long term is disappoint you.
Did anyone ask for these AI features? • Cory Dransfeldt
[archive]
Recently, however, a number of execs and so-called “thought leaders” in tech seem to have genuinely convinced themselves that generative AI is on the verge of replacing all the work done by junior engineers. I have read so many articles about how junior engineering work is being automated out of existence, or that the need for junior engineers is shriveling up. It has officially driven me bonkers.
All of this bespeaks a deep misunderstanding about what engineers actually do. By not hiring and training up junior engineers, we are cannibalizing our own future. We need to stop doing that.
Generative AI Is Not Going To Build Your Engineering Team For You
[archive]
C’est l’une de mes réflexions actuelles pour une future activité qui inclurait de la transmission / montée en compétence technique. J’ai l’impression de pouvoir apporter des choses dans le domaine et les personnes que l’on appelle « junior » galèrent pour trouver du boulot alors qu’elles sont déjà capables.
The modern tech company or capitalistic enterprise is taking cues from fascism and dictators in how they introduce a small piece of controversy, like a testing of the waters. Wait for an “overreaction” by the masses/their audience/core users, wait for that to burnout and normalize, before flooding the zone with too much to fight or argue with all at once. This is the same way fascism causes burnout and complacency and feelings of helplessness, like there’s nothing to be done to fight the thing.
This is what is being done with AI.
I’ve had this thought but never put it into words.
[archive]
À relire dans un contexte d’élections #OhWait.
L’une des grandes peurs entourant le déploiement des systèmes d’intelligence artificielle (IA) concerne ses potentielles « dérives », quand celle-ci pourrait « déraper ». Sauf que, rappelle Ollivier Dyens, l’humanité n’a pas eu besoin de l’IA pour commettre des atrocités – camps de concentration, bombe atomique, massacres à la machette et à la baïonnette, etc. Pourquoi devrions-nous avoir davantage peur de l’IA ?
L’intelligence artificielle, en tant que reflet de « nous-mêmes », pourrait en fait nous servir de miroir, à nous faire voir ce qui nous caractérise (en tant qu’êtres humains, individuellement et collectivement), à nous montrer nos propres biais – et en particulier ceux que nous n’arrivons pas à discerner nous-mêmes.
Cinq idées reçues lors de l’école d’été sur les humanités numériques [archive]
Compte-tenu de la façon dont sont entraînés ces LLM, la démonstration de ces biais se ferait en les accentuant… ce qui aurait potentiellement pour effet de les encourager au final ?!
Selon Louise Champoux-Paillé et Anne-Marie Croteau de l’École de gestion John-Molson, Université Concordia, les femmes sont moins intéressées par l’IA que les hommes, donc sont plus à risque de perdre leur emploi dans l’avenir. En fait, est-ce vraiment un manque d’intérêt ou ne serait-ce pas plutôt la difficulté de se tailler une place parce que les hommes ont la préférence?
En parlant de biais.
Dire que ChatGPT « hallucine » est un anthropomorphisme : c’est une métaphore, une représentation calquée sur une réalité que nous vivons en tant qu’humains ; en l’occurrence, on hallucine quand on perçoit quelque chose qui n’est pas vraiment là.
Or la réalité du fonctionnement de ChatGPT, qui est basé sur un grand modèle de langue (large language model, LLM) est très différente : […]
C’est essentiel à comprendre : en tant que programme, la fonction de ChatGPT n’est pas de nous informer mais de simuler un interlocuteur humain. Pour cela, il assemble des éléments de langage de manière probabiliste.
De l’importance du champ lexical qui entoure ces technologies. Ces outils ne manipulent pas que des mots, ils nous font croire à une nouvelle vérité alors qu’ils n’en ont pas la capacité. Et une partie de l’humanité devient croyante. (Le parallèle avec une religion est assumé.)
Don’t let the past steal your present.
Cherríe L. Moraga
Comment les LLM peuvent-ils nous empêcher de tourner en rond pour aller vers la spirale ? Je me fais du souci pour la science notamment :
Recent large language models (LLMs) can generate and revise text with human-level performance, and have been widely commercialized in systems like ChatGPT. These models come with clear limitations: they can produce inaccurate information, reinforce existing biases, and be easily misused. Yet, many scientists have been using them to assist their scholarly writing. How wide-spread is LLM usage in the academic literature currently? To answer this question, we use an unbiased, large-scale approach, free from any assumptions on academic LLM usage. We study vocabulary changes in 14 million PubMed abstracts from 2010-2024, and show how the appearance of LLMs led to an abrupt increase in the frequency of certain style words. Our analysis based on excess words usage suggests that at least 10% of 2024 abstracts were processed with LLMs. This lower bound differed across disciplines, countries, and journals, and was as high as 30% for some PubMed sub-corpora. We show that the appearance of LLM-based writing assistants has had an unprecedented impact in the scientific literature, surpassing the effect of major world events such as the Covid pandemic.
Avec l’éternel questionnement associé, qui ne date pas d’hier :
So we enshrine the idea of intelligence into our computing paradigm when we don’t even know what it means for ourselves. Are we making computers smarter or ourselves dumber?
You can’t tell if a machine has gotten smarter or if you’ve just lowered your own standards of intelligence to such a degree that the machine seems smart.
Prescient.
Cinéma
Software is a creative industry with more in common with media production industries than housebuilding.
Software is a medium of setbacks, but a medium’s limitations don’t define the artist
[archive]
Pour filer la métaphore, je me demande si les assistants à base de grands modèles de langage seraient l’équivalent des environnements verts dans lesquels évoluent les acteur·ices aujourd’hui. Leur métier a changé avec la technologie, leur jeu a dû s’adapter pour transmettre des émotions dans un contexte où iels ne maîtrisent plus du tout la chaîne de représentation de leur travail. J’imagine que même la vérification de leur prise nécessite une bonne dose d’imaginaire.
Quel est leur sentiment à la fin d’une journée de tournage ? Quel sera le mien ?
Dear Mr. Architect!
Please design and build me a house. I am not quite sure of what I need, so you should use your discretion. My house should have between two and forty-five bedrooms. Just make sure the plans are such that the bedrooms can be easily added or deleted. When you bring the blueprints to me, I will make the final decision of what I want. Also, bring me the cost breakdown for each configuration so that I can arbitrarily pick one.
Fracas est un collectif queer et féministe d’aide à la gestion de conflits interpersonnels, de violences et d’agressions au sein de collectifs.
Fracas, collectif queer et féministe d’aide à la gestion de conflits [archive]
Si peu de temps et tellement à explorer.
(Via CQFD [archive] qui arrive à ne faire aucun lien vers le site en question, ça me rend fou…)
Wuwei
Le wuwei, dans le taoïsme, est d’ailleurs composé de deux idéogrammes : le rien et la volonté. Et on sait à quel point il faut beaucoup de volonté pour revendiquer davantage de rien. Il se traduit généralement par non-agir ou non-intervention, mais cela ne signifie pas pour autant rester les bras croisés en rejetant toute nouveauté, simplement de faire des choix éclairés et de ne pas forcer le cours des choses. Se fixer des limites, distinguer ce qui relève du progrès vers une vie bonne et décente de ce qui nous aliène, savoir ne pas est un art de vivre au quotidien. Et je ne peux m’empêcher de penser que Bartleby devait être chinois.
Décliner l’usage de ce dont on n’a pas besoin, discerner parmi les technologies celles qui risquent de faire plus de mal que de bien, voilà qui manque cruellement à notre époque où l’on a oublié que parfois ne pas nuire vaut mieux qu’agir. Il y aurait pourtant un nombre incalculable d’applications pratiques du wuwei, de la géo-ingénierie à l’intelligence artificielle, tant de cas où il serait bon que l’espèce humaine sache se retenir.
Alors nous irons trouver la beauté ailleurs, Corinne Morel Darleux
Cette année encore, ce sera pour moi le non-usage de l’intelligence artificielle
[archive] explicite qui sera mon wuwei. Je précise le explicite
car il y en a déjà plein partout dans mon téléphone et ailleurs. J’ai peut-être une des dernières générations d’appareil photo qui ne va pas adapter l’image à une norme / culture apprise. Je suis curieux d’observer le nivellement (au sens moyenne, pas forcément par le bas) que vont provoquer les LLM dans le domaine, peut-être deviendra-t-il plus imperceptible qu’une lune
[archive] ou une mariée
[archive] mais il sera toujours là.
Ce explicite correspond principalement pour moi à des prompts qui m’aideraient à coder. Je regarde ce qui se fait dans le domaine et j’en vois l’intérêt mais je vois aussi au détriment de tout ce que cela est rendu possible. Des humains-esclaves qui modèrent ce qui est généré d’un côté, des sources d’apprentissage non consenties — voire privées — et des ressources pharaoniques pour réussir à aligner 3 fonctions qu’il faut ensuite comprendre et adapter de toute façon.
Et puis il y a toute cette zone grise, je me sers par exemple de la reconnaissance de caractère intégrée à Photos.app de macOS pour retranscrire les citations depuis des photos de passages de livres. Auparavant, je les recopiais à la main. Est-ce que cela changeait ma manière de les ré-interpréter ?
Il nous faut trouver de nouvelles manières littéraires susceptibles de percuter sans chercher à convaincre, et déjouer le didactisme qui veut à tout prix expliquer et instruire. Peut-être faudrait-il aller jusqu’à s’imposer comme contrainte de proscrire l’usage de certains mots afin de renouveler le genre.
Écologie, capitalisme, croissance, nature, social, climat, peuple, vert, environnement, progrès, révolution, biodiversité, démocratie : la plupart d’entre eux ne manquerait à personne tant ils ont été dévoyés et usés jusqu’à la lie. Mais notre meilleure botte est sans doute de miser sur la capacité du sensible à affecter.
En littérature, c’est l’empathie qui amène à la réflexion et non l’inverse. Vous pouvez développer l’argumentaire le plus serré qui soit dans un livre, je doute fort que cela fasse changer quiconque d’avis. En revanche, donnez-nous un personnage à chérir, faites-nous partager son intimité, ses émois, ses douleurs et ses joies, et il nous sera bien plus aisé de prendre en compte son point de vue, à défaut de le partager.
Ibid.
De plus en plus tenté d’explorer cette piste. Je me souviens avec émotion de ma lecture de Professeur cherche élève ayant désir de sauver le monde par Daniel Quinn.
Écriture
And, I’ll assume we all agree that owning your own website is a good thing, and we all want more people to do it.
But here’s the thing: we need more tools for it. We need simpler tools for it. And we need to make installing and using them trivially simple.
We need more self-hosted platforms for personal publishing that aren’t Wordpress. And don’t point me to Hugo or Netlify or Eleventy or all those things - all of them are great, but none of them are simple enough. We need web publishing tools that do not require users to open the Terminal at all. And we need lots of them.
We need a whole galaxy of options.
Quelques étoiles dans la galaxie :
- Scribouilli (code) par L’Échappée Belle ;
- Write.as (open-source) est le plus proche que je pourrais conseiller avec un support commercial de Musing Studio ;
- mastohost — que j’utilise — permet d’avoir son propre domaine aussi sans vraiment de connaissance technique, le support est réactif ;
- Carrd est revenu plusieurs fois dans ma bulle ces derniers temps ;
- Pika aussi avec une saveur plus humaine.
Il y a une bonne liste dans cette discussion et une autre par ici (section Managed Static site hosts or Blogging platforms
).
Among its suggestions: write a longer headline; split a six-sentence paragraph up because it’s “too long”; and replace “too complex” words like “invariably,” “notoriety,” and “modification.” Dozens of sentences were flagged as being confusing (I disagree) — and it really hated em dashes. I rewrote my prose over and over, but it didn’t seem to satisfy my robot grader. I finally chose one thought per sentence, broke up paragraphs, and replaced words with suggested keywords to get rid of the red dots signaling problems.
The result feels like an AI summary of my story — at any moment, a paragraph could start with “In conclusion…” or “The next thing to consider is…” The nuance, voice, and unexpected twists and turns have been snuffed out. I’m sure some people would prefer this uncomplicated, beat-by-beat version of the story, but it’s gone from being a story written by a real person to a clinical, stiff series of sentences.
Un article de TheVerge qui risque de ne pas être très bien référencé. Le moment où l’on s’adapte pour nourrir les robots n’est pas nouveau, on a « juste » mis une nouvelle étiquette dessus en 2023 qui permet aux robots / algorithmes de se battre entre eux de manière explicite.
Pas sûr de vouloir entrer sur le ring sans m’épuiser très vite.
I propose Data Luddism as a radical response to the productive power of big data and predictive algorithms. My starting point is not the Romantic neo-Luddism of Kirkpatrick Sale but the historical Luddism of 1811-1816, and the Luddites' own rhetoric regarding their resistance to 'obnoxious machines'.
The everything package and its 3,000+ sub-packages have caused a Denial of Service (DOS) for anyone who installs it. We’re talking about storage space running out and system resource exhaustion.
But that’s not all. The creator took their prank to the next level by setting up http://everything.npm.lol, showcasing the chaos they unleashed. They even included a meme from Skyrim, adding some humor (or mockery, depending on your perspective) to the situation.
When “Everything” Becomes Too Much: The npm Package Chaos of 2024
[archive]
npm install lol 🤣
En parlant de lol…
Si les fictions, celles qu’on s’invente, celles que nous souffle notre inconscient comme celles qu’on lit, ont un rôle majeur à jouer dans la fabrique de notre rapport au monde, alors voilà qui plaide pour redoubler d’ardeur quand il s’agit de nourrir soigneusement nos imaginaires. Quand on voit les déferlements de violence et le virilisme qui caractérisent les héros modernes, on ne peut que s’interroger sur le type de rapport au monde que cela crée. C’est la raison pour laquelle la bataille culturelle passe aussi par la création de nouvelles utopies, ni niaises ni naïves, qui puissent donner d’autres matières à rêver qu’un monde dévasté et peuplé de soldats augmentés.
[…] Nous avons besoin d’autres cadres de pensée dans lesquels évoluer. Nous avons besoin d’ailleurs culturels pour sortir de l’ornière et nous dérouter.
Alors nous irons trouver la beauté ailleurs, Corinne Morel Darleux
Nous accueillons une nouvelle personne chez Scopyleft, l’occasion de former une nouvelle équipe. Ces ailleurs culturels doivent pouvoir être partagés et inspirer pour réussir à essaimer.
C’est l’une de mes frustrations à ne plus participer à des regroupements, ne pas partager par ce biais là les expériences menées depuis 11 ans en matière d’horizontalité et de travail en commun·s.
So when we wonder where all the websites have gone, know it’s the curators we’re nostalgic for because the curators showed us the best the web had to offer once upon a time. And the curators— the tenders, aggregators, collectors, and connectors— can bring us back to something better. Because it’s still out there, we just have to find it.
Here’s the best part. You can be that curator right now, at this very moment. You can start to rebuild the interconnectivity that made the web fun to explore. And you don’t need to be a computer scientist to do it.
Dixième jour que j’ai l’impression de faire des billets trop longs. Beaucoup d’éparpillement suite à un cumul d’onglets ouverts, parfois depuis bien longtemps. Ça vous laisse un petit exercice de curation
vous aussi :).