#parvenir
Publications relatives à cette étiquette
CompAIgnon
Tech companies big and small sell AI as something that thinks for us. It does replace thought with statistics—but it is not intelligent. No one knows what the future will bring. But is a future without thought a better future?
Now, with a tool that might help us think… How about using AI not to think less but more?
Un article qui ne considère pas les LLM comme des machines à écrire mais comme des aides à penser. Ce n’est toujours pas pour moi mais j’apprécie cette tentative d’inverser la relation.
Quelles doutes / confidences serait-on prêt·es à confesser à une IA plus qu’à un humain ? Qu’est-ce que cela raconterait de nos peurs et insécurités ?
The people who are most confident AI can replace writers are the ones who think writing is typing.
Andrew Ti sur X
Trust is a precious commodity. It takes a long time to build trust. It takes a short time to destroy it.
I am honestly astonished that so many companies don’t seem to realise what they’re destroying.
Lorsque la confiance est perdue avant même d’avoir vraiment été gagnée. Coucou Kagi [archive]. Et peut-être que c’est une bonne chose de ne pas se sentir loyal envers une marque / entreprise en fait ? Profit et confiance font rarement bon ménage.
Apple’s been big on touting their environmental record in past presentations but left it out of this one. Maybe it’s hard to hype fancy autocorrect when we’re spinning carbon-intensive power plants back up to power it.
Less privacy. More environmental impact. More hype. Cool.
More than anything it all goes to show that the one thing you can count on companies to do over the long term is disappoint you.
Did anyone ask for these AI features? • Cory Dransfeldt
[archive]
Recently, however, a number of execs and so-called “thought leaders” in tech seem to have genuinely convinced themselves that generative AI is on the verge of replacing all the work done by junior engineers. I have read so many articles about how junior engineering work is being automated out of existence, or that the need for junior engineers is shriveling up. It has officially driven me bonkers.
All of this bespeaks a deep misunderstanding about what engineers actually do. By not hiring and training up junior engineers, we are cannibalizing our own future. We need to stop doing that.
Generative AI Is Not Going To Build Your Engineering Team For You
[archive]
C’est l’une de mes réflexions actuelles pour une future activité qui inclurait de la transmission / montée en compétence technique. J’ai l’impression de pouvoir apporter des choses dans le domaine et les personnes que l’on appelle « junior » galèrent pour trouver du boulot alors qu’elles sont déjà capables.
The modern tech company or capitalistic enterprise is taking cues from fascism and dictators in how they introduce a small piece of controversy, like a testing of the waters. Wait for an “overreaction” by the masses/their audience/core users, wait for that to burnout and normalize, before flooding the zone with too much to fight or argue with all at once. This is the same way fascism causes burnout and complacency and feelings of helplessness, like there’s nothing to be done to fight the thing.
This is what is being done with AI.
I’ve had this thought but never put it into words.
[archive]
À relire dans un contexte d’élections #OhWait.
L’une des grandes peurs entourant le déploiement des systèmes d’intelligence artificielle (IA) concerne ses potentielles « dérives », quand celle-ci pourrait « déraper ». Sauf que, rappelle Ollivier Dyens, l’humanité n’a pas eu besoin de l’IA pour commettre des atrocités – camps de concentration, bombe atomique, massacres à la machette et à la baïonnette, etc. Pourquoi devrions-nous avoir davantage peur de l’IA ?
L’intelligence artificielle, en tant que reflet de « nous-mêmes », pourrait en fait nous servir de miroir, à nous faire voir ce qui nous caractérise (en tant qu’êtres humains, individuellement et collectivement), à nous montrer nos propres biais – et en particulier ceux que nous n’arrivons pas à discerner nous-mêmes.
Cinq idées reçues lors de l’école d’été sur les humanités numériques [archive]
Compte-tenu de la façon dont sont entraînés ces LLM, la démonstration de ces biais se ferait en les accentuant… ce qui aurait potentiellement pour effet de les encourager au final ?!
Selon Louise Champoux-Paillé et Anne-Marie Croteau de l’École de gestion John-Molson, Université Concordia, les femmes sont moins intéressées par l’IA que les hommes, donc sont plus à risque de perdre leur emploi dans l’avenir. En fait, est-ce vraiment un manque d’intérêt ou ne serait-ce pas plutôt la difficulté de se tailler une place parce que les hommes ont la préférence?
En parlant de biais.
Dire que ChatGPT « hallucine » est un anthropomorphisme : c’est une métaphore, une représentation calquée sur une réalité que nous vivons en tant qu’humains ; en l’occurrence, on hallucine quand on perçoit quelque chose qui n’est pas vraiment là.
Or la réalité du fonctionnement de ChatGPT, qui est basé sur un grand modèle de langue (large language model, LLM) est très différente : […]
C’est essentiel à comprendre : en tant que programme, la fonction de ChatGPT n’est pas de nous informer mais de simuler un interlocuteur humain. Pour cela, il assemble des éléments de langage de manière probabiliste.
De l’importance du champ lexical qui entoure ces technologies. Ces outils ne manipulent pas que des mots, ils nous font croire à une nouvelle vérité alors qu’ils n’en ont pas la capacité. Et une partie de l’humanité devient croyante. (Le parallèle avec une religion est assumé.)
Don’t let the past steal your present.
Cherríe L. Moraga
Comment les LLM peuvent-ils nous empêcher de tourner en rond pour aller vers la spirale ? Je me fais du souci pour la science notamment :
Recent large language models (LLMs) can generate and revise text with human-level performance, and have been widely commercialized in systems like ChatGPT. These models come with clear limitations: they can produce inaccurate information, reinforce existing biases, and be easily misused. Yet, many scientists have been using them to assist their scholarly writing. How wide-spread is LLM usage in the academic literature currently? To answer this question, we use an unbiased, large-scale approach, free from any assumptions on academic LLM usage. We study vocabulary changes in 14 million PubMed abstracts from 2010-2024, and show how the appearance of LLMs led to an abrupt increase in the frequency of certain style words. Our analysis based on excess words usage suggests that at least 10% of 2024 abstracts were processed with LLMs. This lower bound differed across disciplines, countries, and journals, and was as high as 30% for some PubMed sub-corpora. We show that the appearance of LLM-based writing assistants has had an unprecedented impact in the scientific literature, surpassing the effect of major world events such as the Covid pandemic.
Avec l’éternel questionnement associé, qui ne date pas d’hier :
So we enshrine the idea of intelligence into our computing paradigm when we don’t even know what it means for ourselves. Are we making computers smarter or ourselves dumber?
You can’t tell if a machine has gotten smarter or if you’ve just lowered your own standards of intelligence to such a degree that the machine seems smart.
Prescient.
Permanence
Eventually, I started asking myself: why am I promising permanence? The answer crept up on me: because permanence is better than nothing. Without the momentum of obligation, I didn’t trust myself to begin anything in earnest.
The thing is, it never worked. The half-life of obligation is short; the half-life of guilt is long. Promises never saved one of my side projects, but they clogged many nights and weekends with the gunk of regret. Something had to change.
Je vais aller m’enforester avec cette question. Le refuge ne va pas être accessible via la piste de ski (de fond), plus assez de neige.
Un 3 mars, au nord de Montréal.
Ces chaleurs extrêmes de 2023 ont moins à voir avec le développement d’El Niño qu’avec les conditions anticycloniques de la zone. « On a observé une baisse des vents assez forte sur l’Atlantique Nord, explique Christophe Cassou. Or quand il y a moins de vent, il y a moins d’évaporation, ce qui conduit à un réchauffement des eaux de surface. Ces eaux chauffent aussi car elles se mélangent moins avec les eaux plus profondes et plus froides. »
Aujourd’hui, cette configuration météorologique a disparu mais les eaux de surface de l’Atlantique Nord continuent de battre des records de chaleur à cause du phénomène El Niño, qui a fini par réchauffer progressivement les eaux de l’océan pendant l’hiver.
Climat : pourquoi les températures battent tous les records depuis la mi-2023 [archive]
Les Décodeurs m’offrent une grille de lecture des phénomènes en cours intéressante.
From pragma directives, to async scripts, to stylesheets, to open graph tags, it’s easy to mess up and can have consequences. Capo.js will show you the specific order of elements to make your <head> and your page a little (or a lotta) bit faster.
Il est aussi possible d’utiliser la démo sans installer aucun JS en copiant du HTML ou en pointant vers une page. J’ai du mal à évaluer à quel point c’est pertinent pour cet espace, peut-être davantage dans des contextes sans prise de soin [archive] qui semblent être la norme aujourd’hui.
Rêve de la nuit dernière
💚
Wuwei
Le wuwei, dans le taoïsme, est d’ailleurs composé de deux idéogrammes : le rien et la volonté. Et on sait à quel point il faut beaucoup de volonté pour revendiquer davantage de rien. Il se traduit généralement par non-agir ou non-intervention, mais cela ne signifie pas pour autant rester les bras croisés en rejetant toute nouveauté, simplement de faire des choix éclairés et de ne pas forcer le cours des choses. Se fixer des limites, distinguer ce qui relève du progrès vers une vie bonne et décente de ce qui nous aliène, savoir ne pas est un art de vivre au quotidien. Et je ne peux m’empêcher de penser que Bartleby devait être chinois.
Décliner l’usage de ce dont on n’a pas besoin, discerner parmi les technologies celles qui risquent de faire plus de mal que de bien, voilà qui manque cruellement à notre époque où l’on a oublié que parfois ne pas nuire vaut mieux qu’agir. Il y aurait pourtant un nombre incalculable d’applications pratiques du wuwei, de la géo-ingénierie à l’intelligence artificielle, tant de cas où il serait bon que l’espèce humaine sache se retenir.
Alors nous irons trouver la beauté ailleurs, Corinne Morel Darleux
Cette année encore, ce sera pour moi le non-usage de l’intelligence artificielle
[archive] explicite qui sera mon wuwei. Je précise le explicite
car il y en a déjà plein partout dans mon téléphone et ailleurs. J’ai peut-être une des dernières générations d’appareil photo qui ne va pas adapter l’image à une norme / culture apprise. Je suis curieux d’observer le nivellement (au sens moyenne, pas forcément par le bas) que vont provoquer les LLM dans le domaine, peut-être deviendra-t-il plus imperceptible qu’une lune
[archive] ou une mariée
[archive] mais il sera toujours là.
Ce explicite correspond principalement pour moi à des prompts qui m’aideraient à coder. Je regarde ce qui se fait dans le domaine et j’en vois l’intérêt mais je vois aussi au détriment de tout ce que cela est rendu possible. Des humains-esclaves qui modèrent ce qui est généré d’un côté, des sources d’apprentissage non consenties — voire privées — et des ressources pharaoniques pour réussir à aligner 3 fonctions qu’il faut ensuite comprendre et adapter de toute façon.
Et puis il y a toute cette zone grise, je me sers par exemple de la reconnaissance de caractère intégrée à Photos.app de macOS pour retranscrire les citations depuis des photos de passages de livres. Auparavant, je les recopiais à la main. Est-ce que cela changeait ma manière de les ré-interpréter ?
Il nous faut trouver de nouvelles manières littéraires susceptibles de percuter sans chercher à convaincre, et déjouer le didactisme qui veut à tout prix expliquer et instruire. Peut-être faudrait-il aller jusqu’à s’imposer comme contrainte de proscrire l’usage de certains mots afin de renouveler le genre.
Écologie, capitalisme, croissance, nature, social, climat, peuple, vert, environnement, progrès, révolution, biodiversité, démocratie : la plupart d’entre eux ne manquerait à personne tant ils ont été dévoyés et usés jusqu’à la lie. Mais notre meilleure botte est sans doute de miser sur la capacité du sensible à affecter.
En littérature, c’est l’empathie qui amène à la réflexion et non l’inverse. Vous pouvez développer l’argumentaire le plus serré qui soit dans un livre, je doute fort que cela fasse changer quiconque d’avis. En revanche, donnez-nous un personnage à chérir, faites-nous partager son intimité, ses émois, ses douleurs et ses joies, et il nous sera bien plus aisé de prendre en compte son point de vue, à défaut de le partager.
Ibid.
De plus en plus tenté d’explorer cette piste. Je me souviens avec émotion de ma lecture de Professeur cherche élève ayant désir de sauver le monde par Daniel Quinn.
Repos
Je m’engouffre, sans trop réfléchir et avant qu’il ne file, dans cet élan d’écriture que j’espérais tout en refusant de m’en faire une contrainte. L’Inde m’offre l’imprévu, la nouveauté, la stimulation sans doute, que je n’avais plus en France pour pouvoir écrire autre chose que de la fiction. Ce pays est un roman en soi — je peux revenir avec désir à cette réalité-là. J’en suis aussi excitée que prudente, je n’ai aucune idée de ce que cela va donner ni si ça aura le moindre intérêt. Mais je sais déjà que je n’évoquerai ni les Rafale, ni le nucléaire, ni Modi, ces tue-l’amour absolus.
Alors nous irons trouver la beauté ailleurs, Corinne Morel Darleux
Dans un chalet pour quelques jours. Des randonnées à trois générations. Toujours ces questionnements autour de la propriété. Concilier tous les besoins, accepter de changer de vie, ne pas savoir si on serait finalement entourés d’une culture qui ne nous correspond pas (et qui ne nous attire pas non plus). Trouver le bon tempo.
Je me demande s’il serait pertinent d’utiliser text-wrap
[archive] sachant que mes titres ne font qu’un seul mot et que je m’occupe déjà des veuves / orphelines typographiques avec un script Python que l’on a fait avec Ronan à l’époque de MesConseilsCovid / Covidoudou.
Je tente de rendre les citations explicites car on m’a déjà fait le retour de ne pas tout de suite comprendre une publication qui commence par une citation : Ah je croyais que c’était de toi !
.
blockquote::before {
content: "citation";
transform: rotate(-90deg);
position: absolute;
margin-left: -1rem;
margin-top: 3.5rem;
}
Au passage, autant faire de même pour le code. Des couleurs, de la vie ! De l’envie.
Note : être développeur d’un produit open-source populaire c’est un boulot à plein temps, pas de vacances pour les notifications / sollicitations.