Browse Source

Article

master
David Larlet 4 months ago
parent
commit
5868f4d086
Signed by: David Larlet <david@larlet.fr> GPG Key ID: 3E2953A359E7E7BD

+ 8
- 0
david/2024/06/22/index.html View File

@@ -152,6 +152,10 @@
title="Aller à la page de recherche"
rel="search" data-no-instant>Recherche</a>
• <a rel="next"
href="/david/2024/06/28/"
title="Publication suivante : CompAIgnon">Suivant →</a>
</p>
</nav>
@@ -244,6 +248,10 @@
<a href="/david/2024/" title="Liste des publications récentes">↑ En 2024</a>
• <a rel="next"
href="/david/2024/06/28/"
title="Publication suivante : CompAIgnon">Suivant →</a>
</p>
</nav>


+ 620
- 0
david/2024/06/28/index.html View File

@@ -0,0 +1,620 @@
<!DOCTYPE html><!-- This is a valid HTML5 document. -->
<!-- Screen readers, SEO, extensions and so on. -->
<html lang="fr">
<!-- Has to be within the first 1024 bytes, hence before the `title` element
See: https://www.w3.org/TR/2012/CR-html5-20121217/document-metadata.html#charset -->
<meta charset="utf-8">
<!-- Why no `X-UA-Compatible` meta: https://stackoverflow.com/a/6771584 -->
<!-- The viewport meta is quite crowded and we are responsible for that.
See: https://codepen.io/tigt/post/meta-viewport-for-2015 -->
<meta name="viewport" content="width=device-width,initial-scale=1">
<!-- Required to make a valid HTML5 document. -->
<title>
CompAIgnon
— David Larlet</title>
<script>
function toggleTheme(themeName) {
document.documentElement.classList.toggle(
'forced-dark',
themeName === 'dark'
)
document.documentElement.classList.toggle(
'forced-light',
themeName === 'light'
)
}
const selectedTheme = localStorage.getItem('theme')
if (selectedTheme !== 'undefined') {
toggleTheme(selectedTheme)
}
</script>
<!-- Documented, feel free to shoot an email. -->
<link rel="stylesheet" href="/static/david/css/style_2024-03-09.css">
<!-- See https://www.zachleat.com/web/comprehensive-webfonts/ for the trade-off. -->
<link rel="preload"
href="/static/david/css/fonts/century_supra_ot_a_regular.woff2"
as="font"
type="font/woff2"
media="(prefers-color-scheme: light), (prefers-color-scheme: no-preference)"
crossorigin>
<link rel="preload"
href="/static/david/css/fonts/century_supra_ot_a_bold.woff2"
as="font"
type="font/woff2"
media="(prefers-color-scheme: light), (prefers-color-scheme: no-preference)"
crossorigin>
<link rel="preload"
href="/static/david/css/fonts/century_supra_ot_a_italic.woff2"
as="font"
type="font/woff2"
media="(prefers-color-scheme: light), (prefers-color-scheme: no-preference)"
crossorigin>
<link rel="preload"
href="/static/david/css/fonts/century_supra_ot_b_regular.woff2"
as="font"
type="font/woff2"
media="(prefers-color-scheme: dark)"
crossorigin>
<link rel="preload"
href="/static/david/css/fonts/century_supra_ot_b_bold.woff2"
as="font"
type="font/woff2"
media="(prefers-color-scheme: dark)"
crossorigin>
<link rel="preload"
href="/static/david/css/fonts/century_supra_ot_b_italic.woff2"
as="font"
type="font/woff2"
media="(prefers-color-scheme: dark)"
crossorigin>
<meta name="description" content="Tech companies big and small sell AI as something that thinks for us. It does replace thought with statistics—but it is not intelligent. No one knows what the future will bring. But is a future without thought a better future?">
<!-- That good ol' feed, subscribe :). -->
<link rel="alternate"
type="application/atom+xml"
title="Feed"
href="/david/log/">
<!-- Generated from https://realfavicongenerator.net/ such a mess. -->
<link rel="apple-touch-icon"
sizes="180x180"
href="/static/david/icons2/apple-touch-icon.png">
<link rel="icon"
type="image/png"
sizes="32x32"
href="/static/david/icons2/favicon-32x32.png">
<link rel="icon"
type="image/png"
sizes="16x16"
href="/static/david/icons2/favicon-16x16.png">
<link rel="manifest" href="/static/david/icons2/site.webmanifest">
<link rel="mask-icon"
href="/static/david/icons2/safari-pinned-tab.svg"
color="#07486c">
<link rel="shortcut icon" href="/static/david/icons2/favicon.ico">
<meta name="msapplication-TileColor" content="#f7f7f7">
<meta name="msapplication-config"
content="/static/david/icons2/browserconfig.xml">
<meta name="theme-color"
content="#f7f7f7"
media="(prefers-color-scheme: light)">
<meta name="theme-color"
content="#272727"
media="(prefers-color-scheme: dark)">
<!-- Is that even respected? Retrospectively? What a shAItshow…
https://neil-clarke.com/block-the-bots-that-feed-ai-models-by-scraping-your-website/ -->
<meta name="robots" content="noai, noimageai">
<style type="text/css">
.tippy-content {
min-width: 280px;
padding: .5rem;
font-size: calc(var(--fluid-0) * 0.8);
font-family: var(--labor-font);
letter-spacing: initial;
text-align: left;
}
.tippy-content h3 {
margin-top: 0;
}
.tippy-content h3 img {
max-width: 2rem;
max-height: 2rem;
display: inline-block;
}
.tippy-content .tippy-links {
display: flex;
justify-content: space-around;
}
.tippy-content a {
padding: .4rem;
color: #F06048;
}
</style>

<body data-instant-intensity="viewport-all">
<article>
<header>
<hgroup>
<h1>CompAIgnon</h1>
<p>Le <time datetime="2024-06-28">28 juin 2024</time></p>
</hgroup>
</header>
<nav>
<p>
<a rel="prev"
href="/david/2024/06/22/"
title="Publication précédente : Jour 2">← Précédent</a> •
<a href="/david/" title="Aller à l’accueil" rel="up">Accueil</a>
<a href="/david/recherche/"
title="Aller à la page de recherche"
rel="search" data-no-instant>Recherche</a>
</p>
</nav>

<blockquote lang="en">
<p>Tech companies big and small sell AI as something that thinks for us. It <em>does</em> replace thought with statistics—but it is not intelligent. No one knows what the future will bring. <mark>But is a future without thought a better&nbsp;future?</mark></p>
<p>Now, with a tool that might help us think… How about using AI not to think less but <em>more</em>?</p>
<p><cite><em><a data-link-domain="ia.net" href="https://ia.net/topics/turning-the-tables-on-ai" hreflang="en"
title="Consultation de l’article (anglais)">Turning the Tables on AI</a>
<a href="/david/cache/2024/8f9d64c455a9246d5e23810ed10e3fe2/" hreflang="en"
data-tippy data-description="AI is sold to make us think less... How about using AI not to think less but *more*?"
data-source="https://ia.net/topics/turning-the-tables-on-ai"
data-date="2024-06-24"
data-favicon="https://ia.net/wp-content/themes/iA-library/assets/hotlink-ok/favicon-192x192.png"
data-domain="ia.net"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>Un article qui ne considère pas les <abbr lang="en" title="Large Language Model">LLM</abbr> comme des machines à écrire mais comme des aides à penser. Ce n’est <a href="/david/2024/01/13/" title="Wuwei">toujours pas pour moi</a> mais j’apprécie cette tentative d’inverser la&nbsp;relation.</p>
<p>Quelles doutes / confidences serait-on prêt·es à confesser à une IA plus qu’à un humain&#8239;? Qu’est-ce que cela raconterait de nos peurs et&nbsp;insécurités&#8239;?</p>

<blockquote lang="en">
<p>The people who are most confident AI can replace writers are the ones who think writing is&nbsp;typing.</p>
<p><cite>Andrew Ti sur&nbsp;X</cite></p>
</blockquote>
<a href="#hr-189" title="Lien vers cette section de la page"><hr id="hr-189" /></a>

<blockquote lang="en">
<p>Trust is a precious commodity. <mark>It takes a long time to build trust.</mark> It takes a short time to destroy&nbsp;it.</p>
<p>I am honestly astonished that so many companies don’t seem to realise what they’re&nbsp;destroying.</p>
<p><cite><em><a data-link-domain="adactio.com" href="https://adactio.com/journal/21160" hreflang="en"
title="Consultation de l’article (anglais)">Adactio: Journal-Trust</a>
<a href="/david/cache/2024/d4c01d246dc4f43aeb95c427ac5422a5/" hreflang="en"
data-tippy data-description="How to destroy your greatest asset with AI."
data-source="https://adactio.com/journal/21160"
data-date="2024-06-24"
data-favicon="https://adactio.com/icon.png"
data-domain="adactio.com"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>Lorsque la confiance est perdue avant même d’avoir vraiment été gagnée. <a data-link-domain="blog.kagi.com" href="https://blog.kagi.com/what-is-next-for-kagi#9" hreflang="en"
title="Consultation de l’article (anglais)">Coucou Kagi</a>
<a href="/david/cache/2024/463a5fd436bb887f90f9e01b01b7716b/" hreflang="en"
data-tippy data-description="Two years ago, on June 1st, 2022, Kagi introduced ( https://blog.kagi.com/kagi-orion-public-beta ) a search engine that challenged the ad-supported version of the web."
data-source="https://blog.kagi.com/what-is-next-for-kagi#9"
data-date="2024-06-24"
data-favicon="data:image/svg+xml,<svg xmlns=%22http://www.w3.org/2000/svg%22 viewBox=%220 0 100 100%22><text y=%22.9em%22 font-size=%2290%22>%f0%9f%97%9d%ef%b8%8f</text></svg>"
data-domain="blog.kagi.com"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a>. Et peut-être que c’est une bonne chose de ne pas se sentir loyal envers une marque / entreprise en fait&#8239;? Profit et confiance font rarement bon&nbsp;ménage.</p>

<blockquote lang="en">
<p>Apple’s been big on touting their environmental record in past presentations but left it out of this one. <mark>Maybe it’s hard to hype fancy autocorrect</mark> when we’re spinning carbon-intensive power plants back up to power&nbsp;it.</p>
<p>Less privacy. More environmental impact. More hype. <em>Cool.</em></p>
<p>More than anything it all goes to show that the one thing you can count on companies to do over the long term is disappoint&nbsp;you.</p>
<p><cite><em><a data-link-domain="coryd.dev" href="https://coryd.dev/posts/2024/did-anyone-ask-for-these-ai-features/" hreflang="en"
title="Consultation de l’article (anglais)">Did anyone ask for these AI features? • Cory Dransfeldt</a>
<a href="/david/cache/2024/486e49501e495e42b2e40320969c373f/" hreflang="en"
data-tippy data-description="I wasn't going to say anything about WWDC. I wasn't going to say anything about WWDC. But, did anyone actually ask for these AI features?"
data-source="https://coryd.dev/posts/2024/did-anyone-ask-for-these-ai-features/"
data-date="2024-06-24"
data-favicon="https://cdn.coryd.dev/assets/icons/favicon.svg?v=19.5.32"
data-domain="coryd.dev"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<a href="#hr-190" title="Lien vers cette section de la page"><hr id="hr-190" /></a>

<blockquote lang="en">
<p>Recently, however, a number of execs and so-called “thought leaders” in tech seem to have genuinely convinced themselves that generative AI is on the verge of replacing all the work done by junior engineers. I have read so many articles about how junior engineering work is being automated out of existence, or that the need for junior engineers is shriveling up. It has officially driven me&nbsp;bonkers.</p>
<p>All of this bespeaks a deep misunderstanding about what engineers actually do. <mark>By not hiring and training up junior engineers, we are cannibalizing our own future.</mark> We need to <em>stop doing that</em>.</p>
<p><cite><em><a data-link-domain="stackoverflow.blog" href="https://stackoverflow.blog/2024/06/10/generative-ai-is-not-going-to-build-your-engineering-team-for-you/" hreflang="en"
title="Consultation de l’article (anglais)">Generative AI Is Not Going To Build Your Engineering Team For You</a>
<a href="/david/cache/2024/93c287363dbe9cae22f4360c5b107971/" hreflang="en"
data-tippy data-description=""
data-source="https://stackoverflow.blog/2024/06/10/generative-ai-is-not-going-to-build-your-engineering-team-for-you/"
data-date="2024-06-24"
data-favicon="https://stackoverflow.blog/favicon.ico"
data-domain="stackoverflow.blog"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>C’est l’une de mes réflexions actuelles pour une future activité qui inclurait de la transmission / montée en compétence technique. J’ai l’impression de pouvoir apporter des choses dans le domaine et les personnes que l’on appelle «&nbsp;junior&nbsp;» galèrent pour trouver du boulot alors qu’elles sont déjà&nbsp;capables.</p>
<a href="#hr-191" title="Lien vers cette section de la page"><hr id="hr-191" /></a>

<blockquote lang="en">
<p>The modern tech company or capitalistic enterprise is taking cues from fascism and dictators in how they introduce a small piece of controversy, like a testing of the waters. Wait for an “overreaction” by the masses/their audience/core users, wait for that to burnout and normalize, before flooding the zone with too much to fight or argue with all at once. <mark>This is the same way fascism causes burnout</mark> and complacency and feelings of helplessness, like there’s nothing to be done to fight the&nbsp;thing.</p>
<p>This is what is being done with&nbsp;AI.</p>
<p><cite><em><a data-link-domain="micro.anniegreens.lol" href="https://micro.anniegreens.lol/2024/05/06/ive-had-this.html" hreflang="en"
title="Consultation de l’article (anglais)">I’ve had this thought but never put it into words.</a>
<a href="/david/cache/2024/54ee1030f6fef778ec10e59726bc5731/" hreflang="en"
data-tippy data-description="The modern tech company or capitalistic enterprise is taking …"
data-source="https://micro.anniegreens.lol/2024/05/06/ive-had-this.html"
data-date="2024-06-24"
data-favicon="https://micro.blog/anniegreens/favicon.png"
data-domain="micro.anniegreens.lol"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>À relire dans un contexte d’élections&nbsp;#OhWait.</p>
<a href="#hr-192" title="Lien vers cette section de la page"><hr id="hr-192" /></a>

<blockquote>
<p>L’une des grandes peurs entourant le déploiement des systèmes d’intelligence artificielle (IA) concerne ses potentielles «&nbsp;dérives&nbsp;», quand celle-ci pourrait «&nbsp;déraper&nbsp;». Sauf que, rappelle Ollivier Dyens, l’humanité n’a pas eu besoin de l’IA pour commettre des atrocités – camps de concentration, bombe atomique, massacres à la machette et à la baïonnette, etc. <em>Pourquoi devrions-nous avoir davantage peur de&nbsp;l’IA&#8239;?</em></p>
<p>L’intelligence artificielle, en tant que reflet de «&nbsp;nous-mêmes&nbsp;», pourrait en fait nous servir de miroir, à nous faire voir ce qui nous caractérise&#8239; (en tant qu’êtres humains, individuellement et collectivement), <mark>à nous montrer nos propres biais – et en particulier ceux que nous n’arrivons pas à discerner&nbsp;nous-mêmes.</mark></p>
<p><cite><em><a data-link-domain="lobrassard.net" href="https://www.lobrassard.net/carnet/2024-06-14-idees-recues-ecole-ete-humanites-numeriques.html" hreflang="fr"
title="Consultation de l’article">Cinq idées reçues lors de l’école d’été sur les humanités numériques</a>
<a href="/david/cache/2024/92ca1fc6eb390997db6b76afaf742d63/" hreflang="fr"
data-tippy data-description="Carnet de recherche de Louis-Olivier Brassard."
data-source="https://www.lobrassard.net/carnet/2024-06-14-idees-recues-ecole-ete-humanites-numeriques.html"
data-date="2024-06-24"
data-favicon="data:;base64,iVBORw0KGgo="
data-domain="lobrassard.net"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>Compte-tenu de la façon dont sont entraînés ces LLM, la démonstration de ces biais se ferait en les accentuant… ce qui aurait potentiellement pour effet de les encourager au&nbsp;final&#8239;?!</p>
<a href="#hr-193" title="Lien vers cette section de la page"><hr id="hr-193" /></a>

<blockquote>
<p>Selon Louise Champoux-Paillé et Anne-Marie Croteau de l’École de gestion John-Molson, Université Concordia, les femmes sont moins intéressées par l’IA que les hommes, donc sont plus à risque de perdre leur emploi dans l’avenir. En fait, est-ce vraiment un manque d’intérêt ou ne serait-ce pas plutôt <mark>la difficulté de se tailler une place parce que les hommes ont la&nbsp;préférence?</mark></p>
<p><cite><em><a data-link-domain="mimo.blog" href="https://mimo.blog/le-panneau-des-prejuges" hreflang="fr"
title="Consultation de l’article">Le panneau des préjugés</a>
<a href="/david/cache/2024/63a6d75aee63c072c6d3b174c918740e/" hreflang="fr"
data-tippy data-description="Selon Louise Champoux-Paillé et Anne-Marie Croteau de l'École de gestion John-Molson, Université Concordia, les femmes sont moins intéres..."
data-source="https://mimo.blog/le-panneau-des-prejuges"
data-date="2024-06-24"
data-favicon="https://i.snap.as/CoWgXgFY.png"
data-domain="mimo.blog"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>En parlant de&nbsp;biais.</p>
<a href="#hr-194" title="Lien vers cette section de la page"><hr id="hr-194" /></a>

<blockquote>
<p>Dire que ChatGPT «&nbsp;hallucine&nbsp;» est un anthropomorphisme&nbsp;: c’est une métaphore, une représentation calquée sur une réalité que nous vivons en tant qu’humains&#8239;; en l’occurrence, on hallucine quand on perçoit quelque chose qui n’est pas vraiment&nbsp;là.</p>
<p>Or la réalité du fonctionnement de ChatGPT, qui est basé sur un grand modèle de langue (large language model, LLM) est très différente&nbsp;: […]</p>
<p>C’est essentiel à comprendre&nbsp;: en tant que programme, <mark>la fonction de ChatGPT n’est pas de nous informer mais de simuler un interlocuteur humain.</mark> Pour cela, il assemble des éléments de langage de manière&nbsp;probabiliste.</p>
<p><cite><em><a data-link-domain="arthurperret.fr" href="https://www.arthurperret.fr/blog/2024-06-21-chatgpt-et-l-indifference-a-la-verite.html" hreflang="fr"
title="Consultation de l’article">ChatGPT et l’indifférence à la vérité</a>
<a href="/david/cache/2024/8b0a0eb43814f315e2b296aa5bdd5eee/" hreflang="fr"
data-tippy data-description="Site web d’Arthur Perret, enseignant-chercheur en SIC."
data-source="https://www.arthurperret.fr/blog/2024-06-21-chatgpt-et-l-indifference-a-la-verite.html"
data-date="2024-06-24"
data-favicon="https://www.arthurperret.fr/blog/favicon-32x32.png"
data-domain="arthurperret.fr"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>De l’importance du champ lexical qui entoure ces technologies. Ces outils ne manipulent pas que des mots, ils nous font croire à une nouvelle vérité alors qu’ils n’en ont pas la capacité. Et une partie de l’humanité devient croyante. (Le parallèle avec une religion est&nbsp;assumé.)</p>
<a href="#hr-195" title="Lien vers cette section de la page"><hr id="hr-195" /></a>

<blockquote lang="en">
<p>Don’t let the past steal your&nbsp;present.</p>
<p><cite>Cherríe L. Moraga</cite></p>
</blockquote>
<p>Comment les LLM peuvent-ils nous empêcher de tourner en rond pour aller <a href="/david/stream/2018/04/07/">vers la spirale</a>&#8239;? Je me fais du souci <a data-link-domain="arxiv.org" href="https://arxiv.org/abs/2406.07016">pour la science</a>&nbsp;notamment&nbsp;:</p>

<blockquote lang="en">
<p>Recent large language models (LLMs) can generate and revise text with human-level performance, and have been widely commercialized in systems like ChatGPT. These models come with clear limitations: they can produce inaccurate information, reinforce existing biases, and be easily misused. Yet, many scientists have been using them to assist their scholarly writing. How wide-spread is LLM usage in the academic literature currently? To answer this question, we use an unbiased, large-scale approach, free from any assumptions on academic LLM usage. We study vocabulary changes in 14&nbsp;million PubMed abstracts from 2010-2024, and show how the appearance of LLMs led to an abrupt increase in the frequency of certain style words. <mark>Our analysis based on excess words usage suggests that at least 10% of 2024&nbsp;abstracts were processed with LLMs. This lower bound differed across disciplines, countries, and journals, and was as high as 30% for some PubMed sub-corpora. We show that the appearance of LLM-based writing assistants has had an unprecedented impact in the scientific literature, surpassing the effect of major world events such as the Covid&nbsp;pandemic.</mark></p>
</blockquote>
<p>Avec l’éternel questionnement associé, qui ne date pas&nbsp;d’hier&nbsp;:</p>

<blockquote lang="en">
<p>So we enshrine the idea of intelligence into our computing paradigm when we don’t even know what it means for ourselves. <mark>Are we making computers smarter or ourselves&nbsp;dumber?</mark></p>

<blockquote>
<p>You can’t tell if a machine has gotten smarter or if you’ve just lowered your own standards of intelligence to such a degree that the machine seems&nbsp;smart.</p>
</blockquote>
<p>Prescient.</p>
<p><cite><em><a data-link-domain="blog.jim-nielsen.com" href="https://blog.jim-nielsen.com/2024/notes-from-you-are-not-a-gadget/" hreflang="en"
title="Consultation de l’article (anglais)">Notes From “You Are Not A Gadget”</a>
<a href="/david/cache/2024/b39aef611801e2b15f189e8d02586b88/" hreflang="en"
data-tippy data-description="Writing about the big beautiful mess that is making things for the world wide web."
data-source="https://blog.jim-nielsen.com/2024/notes-from-you-are-not-a-gadget/"
data-date="2024-06-24"
data-favicon="https://blog.jim-nielsen.com/favicon.ico"
data-domain="blog.jim-nielsen.com"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>

<nav>
<p>
<a href="/david/2024/ecriture/"
title="Liste de tous les articles 2024 associés à cette étiquette"
rel="tag">#écriture</a>
<a href="/david/2024/ia/"
title="Liste de tous les articles 2024 associés à cette étiquette"
rel="tag">#IA</a>
<a href="/david/2024/parvenir/"
title="Liste de tous les articles 2024 associés à cette étiquette"
rel="tag">#parvenir</a>
<a href="/david/2024/#tags" title="Liste de toutes les étiquettes 2024">tous ?</a>
</p>
</nav>
<nav>
<p>
<a rel="prev"
href="/david/2024/06/22/"
title="Publication précédente : Jour 2">← Précédent</a> •
<a href="/david/2024/" title="Liste des publications récentes">↑ En 2024</a>
</p>
</nav>

<form action="/david/recherche/" method="get">
<fieldset>
<legend>Recherche</legend>
<label for="input-search">Termes de votre recherche :</label>
<input id="input-search" type="search" name="s" aria-describedby="indexation-infos" required>
<input type="submit" value="Chercher">
<p id="indexation-infos">
<small>
Seuls les contenus de ces 8 dernières années sont indexés.
</small>
</p>
</fieldset>
</form>
<aside>
<theme-toggle></theme-toggle>
</aside>
</article>
<hr>
<footer>
<p>
<a href="/david/" title="Aller à l’accueil">Accueil</a>
<a href="/david/log/" title="Accès au flux RSS">Suivre</a>
<a href="http://larlet.com"
title="Go to my English profile"
data-instant>Pro</a>
<a href="mailto:david%40larlet.fr" title="Envoyer un courriel">Email</a>
<abbr title="Hébergeur : Alwaysdata, 62 rue Tiquetonne 75002 Paris, +33184162340">Légal</abbr>
</p>
<template id="theme-selector">
<form>
<style type="text/css">
fieldset div {
text-align: center;
}
</style>
<fieldset>
<legend>Thème</legend>
<div>
<label>
<input type="radio" value="auto" name="chosen-color-scheme" checked>
Auto
</label>
<label>
<input type="radio" value="dark" name="chosen-color-scheme">
Foncé
</label>
<label>
<input type="radio" value="light" name="chosen-color-scheme">
Clair
</label>
</div>
</fieldset>
</form>
</template>
</footer>
<script src="/static/david/js/instantpage-5.1.0.min.js" type="module"></script>
<script>
class ThemeToggle extends HTMLElement {
constructor() {
super()
const themeSelectorTemplate = document.querySelector('#theme-selector')
const form = themeSelectorTemplate.content.firstElementChild
this.attachShadow({ mode: 'open' })
this.shadowRoot.appendChild(form.cloneNode(true))
}

connectedCallback() {
const form = this.shadowRoot.querySelector('form')
form.addEventListener('change', (e) => {
const chosenColorScheme = e.target.value
localStorage.setItem('theme', chosenColorScheme)
toggleTheme(chosenColorScheme)
})

const selectedTheme = localStorage.getItem('theme')
if (selectedTheme && selectedTheme !== 'undefined') {
form.querySelector(`[value="${selectedTheme}"]`).checked = true
}
}
}

const prefersColorSchemeDark = '(prefers-color-scheme: dark)'
window.addEventListener('load', () => {
let colorsLayer = undefined
let hasDarkRules = false
for (const styleSheet of Array.from(document.styleSheets)) {
let mediaRules = []
for (const layerRule of styleSheet.cssRules) {
if (!(layerRule instanceof CSSLayerBlockRule)) {
continue
}
if (layerRule.name === 'colors') {
colorsLayer = layerRule
}
for (const cssRule of layerRule.cssRules) {
if (cssRule.type !== CSSRule.MEDIA_RULE) {
continue
}
// WARNING: Safari does not have/supports `conditionText`.
if (cssRule.conditionText) {
if (cssRule.conditionText !== prefersColorSchemeDark) {
continue
}
} else {
if (cssRule.cssText.startsWith(prefersColorSchemeDark)) {
continue
}
}
mediaRules = mediaRules.concat(Array.from(cssRule.cssRules))
}
}

// WARNING: do not try to insert a Rule to a styleSheet you are
// currently iterating on, otherwise the browser will be stuck
// in a infinite loop…
for (const mediaRule of mediaRules) {
// Safari requires the `0` second parameter (even if default).
colorsLayer.insertRule(mediaRule.cssText, 0)
hasDarkRules = true
}
}

if (hasDarkRules) {
if ('customElements' in window && !customElements.get('theme-toggle')) {
customElements.define('theme-toggle', ThemeToggle)
}
}
})
</script>
<script src="/static/david/js/popper-2.11.8.min.js"></script>
<script src="/static/david/js/tippy-bundle-6.3.7.umd.min.js"></script>
<script>
tippy('[data-tippy]', {
content(reference) {
reference.addEventListener('click', (e) => e.preventDefault())
return `
<h3 lang="fr">
<img src="${reference.dataset.favicon}" loading="lazy">
<a href="${reference.dataset.source}"
>Article sur ${reference.dataset.domain}</a></h3>
<p lang="${reference.hreflang}"><em>${reference.dataset.description}</em></p>
<div class="tippy-links" lang="fr">
<a href="${reference.href}">Archive au ${reference.dataset.date}</a>
</div>
`
},
allowHTML: true,
interactive: true,
delay: [150, 700],
hideOnClick: false
})
</script>
<script type="module">
import { annotate } from '/static/david/js/rough-notation-0.5.1.esm.min.js'

const markObserver = new IntersectionObserver((entries, observer) => {
const computedStyle = getComputedStyle(document.documentElement)
const markBackground = computedStyle.getPropertyValue('--mark-background')
for (const entry of entries) {
if (entry.intersectionRatio === 0) continue
const markElement = entry.target
markElement.style.backgroundColor = 'inherit'
const annotation = annotate(
markElement, {
type: 'highlight',
multiline: true,
color: markBackground,
// animate: !window.matchMedia('(prefers-reduced-motion: reduce)').matches
animate: false
}
)
annotation.show()
observer.unobserve(markElement)
}
}, {threshold: 1.0})

for (const markElement of document.querySelectorAll('mark')) {
markObserver.observe(markElement)
}
</script>

</body>
</html>

+ 105
- 0
david/2024/_sources/2024-06-28 - CompAIgnon.md View File

@@ -0,0 +1,105 @@
# CompAIgnon

> [en] Tech companies big and small sell AI as something that thinks for us. It *does* replace thought with statistics—but it is not intelligent. No one knows what the future will bring. ==But is a future without thought a better future?==
>
> Now, with a tool that might help us think… How about using AI not to think less but *more*?
>
> <cite>*[Turning the Tables on AI](https://ia.net/topics/turning-the-tables-on-ai)*</cite>

Un article qui ne considère pas les <abbr lang="en" title="Large Language Model">LLM</abbr> comme des machines à écrire mais comme des aides à penser. Ce n’est [toujours pas pour moi](/david/2024/01/13/) mais j’apprécie cette tentative d’inverser la relation.

Quelles doutes / confidences serait-on prêt·es à confesser à une IA plus qu’à un humain ? Qu’est-ce que cela raconterait de nos peurs et insécurités ?

> [en] The people who are most confident AI can replace writers are the ones who think writing is typing.
>
> <cite>Andrew Ti sur X</cite>

---

> [en] Trust is a precious commodity. ==It takes a long time to build trust.== It takes a short time to destroy it.
>
> I am honestly astonished that so many companies don’t seem to realise what they’re destroying.
>
> <cite>*[Adactio: Journal-Trust](https://adactio.com/journal/21160)*</cite>

Lorsque la confiance est perdue avant même d’avoir vraiment été gagnée. [Coucou Kagi](https://blog.kagi.com/what-is-next-for-kagi#9). Et peut-être que c’est une bonne chose de ne pas se sentir loyal envers une marque / entreprise en fait ? Profit et confiance font rarement bon ménage.

> [en] Apple’s been big on touting their environmental record in past presentations but left it out of this one. ==Maybe it’s hard to hype fancy autocorrect== when we’re spinning carbon-intensive power plants back up to power it.
>
> Less privacy. More environmental impact. More hype. *Cool.*
>
> More than anything it all goes to show that the one thing you can count on companies to do over the long term is disappoint you.
>
> <cite>*[Did anyone ask for these AI features? • Cory Dransfeldt](https://coryd.dev/posts/2024/did-anyone-ask-for-these-ai-features/)*</cite>

---

> [en] Recently, however, a number of execs and so-called “thought leaders” in tech seem to have genuinely convinced themselves that generative AI is on the verge of replacing all the work done by junior engineers. I have read so many articles about how junior engineering work is being automated out of existence, or that the need for junior engineers is shriveling up. It has officially driven me bonkers.
>
> All of this bespeaks a deep misunderstanding about what engineers actually do. ==By not hiring and training up junior engineers, we are cannibalizing our own future.== We need to *stop doing that*.
>
> <cite>*[Generative AI Is Not Going To Build Your Engineering Team For You](https://stackoverflow.blog/2024/06/10/generative-ai-is-not-going-to-build-your-engineering-team-for-you/)*</cite>

C’est l’une de mes réflexions actuelles pour une future activité qui inclurait de la transmission / montée en compétence technique. J’ai l’impression de pouvoir apporter des choses dans le domaine et les personnes que l’on appelle « junior » galèrent pour trouver du boulot alors qu’elles sont déjà capables.

---

> [en] The modern tech company or capitalistic enterprise is taking cues from fascism and dictators in how they introduce a small piece of controversy, like a testing of the waters. Wait for an “overreaction” by the masses/their audience/core users, wait for that to burnout and normalize, before flooding the zone with too much to fight or argue with all at once. ==This is the same way fascism causes burnout== and complacency and feelings of helplessness, like there’s nothing to be done to fight the thing.
>
> This is what is being done with AI.
>
> <cite>*[I’ve had this thought but never put it into words.](https://micro.anniegreens.lol/2024/05/06/ive-had-this.html)*</cite>

À relire dans un contexte d’élections \#OhWait.

---

> L’une des grandes peurs entourant le déploiement des systèmes d’intelligence artificielle (IA) concerne ses potentielles « dérives », quand celle-ci pourrait « déraper ». Sauf que, rappelle Ollivier Dyens, l’humanité n’a pas eu besoin de l’IA pour commettre des atrocités – camps de concentration, bombe atomique, massacres à la machette et à la baïonnette, etc. *Pourquoi devrions-nous avoir davantage peur de l’IA ?*
>
> L’intelligence artificielle, en tant que reflet de « nous-mêmes », pourrait en fait nous servir de miroir, à nous faire voir ce qui nous caractérise  (en tant qu’êtres humains, individuellement et collectivement), ==à nous montrer nos propres biais – et en particulier ceux que nous n’arrivons pas à discerner nous-mêmes.==
>
> <cite>*[Cinq idées reçues lors de l’école d’été sur les humanités numériques](https://www.lobrassard.net/carnet/2024-06-14-idees-recues-ecole-ete-humanites-numeriques.html)*</cite>

Compte-tenu de la façon dont sont entraînés ces LLM, la démonstration de ces biais se ferait en les accentuant… ce qui aurait potentiellement pour effet de les encourager au final ?!

---

> Selon Louise Champoux-Paillé et Anne-Marie Croteau de l’École de gestion John-Molson, Université Concordia, les femmes sont moins intéressées par l’IA que les hommes, donc sont plus à risque de perdre leur emploi dans l’avenir. En fait, est-ce vraiment un manque d’intérêt ou ne serait-ce pas plutôt ==la difficulté de se tailler une place parce que les hommes ont la préférence?==
>
> <cite>*[Le panneau des préjugés](https://mimo.blog/le-panneau-des-prejuges)*</cite>

En parlant de biais.

---

> Dire que ChatGPT « hallucine » est un anthropomorphisme : c’est une métaphore, une représentation calquée sur une réalité que nous vivons en tant qu’humains ; en l’occurrence, on hallucine quand on perçoit quelque chose qui n’est pas vraiment là.
>
> Or la réalité du fonctionnement de ChatGPT, qui est basé sur un grand modèle de langue (large language model, LLM) est très différente : […]
>
> C’est essentiel à comprendre : en tant que programme, ==la fonction de ChatGPT n’est pas de nous informer mais de simuler un interlocuteur humain.== Pour cela, il assemble des éléments de langage de manière probabiliste.
>
> <cite>*[ChatGPT et l’indifférence à la vérité](https://www.arthurperret.fr/blog/2024-06-21-chatgpt-et-l-indifference-a-la-verite.html)*</cite>

De l’importance du champ lexical qui entoure ces technologies. Ces outils ne manipulent pas que des mots, ils nous font croire à une nouvelle vérité alors qu’ils n’en ont pas la capacité. Et une partie de l’humanité devient croyante. (Le parallèle avec une religion est assumé.)

---

> [en] Don’t let the past steal your present.
>
> <cite>Cherríe L. Moraga</cite>

Comment les LLM peuvent-ils nous empêcher de tourner en rond pour aller [vers la spirale](/david/stream/2018/04/07/) ? Je me fais du souci [pour la science](https://arxiv.org/abs/2406.07016) notamment :

> [en] Recent large language models (LLMs) can generate and revise text with human-level performance, and have been widely commercialized in systems like ChatGPT. These models come with clear limitations: they can produce inaccurate information, reinforce existing biases, and be easily misused. Yet, many scientists have been using them to assist their scholarly writing. How wide-spread is LLM usage in the academic literature currently? To answer this question, we use an unbiased, large-scale approach, free from any assumptions on academic LLM usage. We study vocabulary changes in 14 million PubMed abstracts from 2010-2024, and show how the appearance of LLMs led to an abrupt increase in the frequency of certain style words. ==Our analysis based on excess words usage suggests that at least 10% of 2024 abstracts were processed with LLMs. This lower bound differed across disciplines, countries, and journals, and was as high as 30% for some PubMed sub-corpora. We show that the appearance of LLM-based writing assistants has had an unprecedented impact in the scientific literature, surpassing the effect of major world events such as the Covid pandemic.==

Avec l’éternel questionnement associé, qui ne date pas d’hier :

> [en] So we enshrine the idea of intelligence into our computing paradigm when we don’t even know what it means for ourselves. ==Are we making computers smarter or ourselves dumber?==
>
> > You can’t tell if a machine has gotten smarter or if you’ve just lowered your own standards of intelligence to such a degree that the machine seems smart.
>
> Prescient.
>
> <cite>*[Notes From “You Are Not A Gadget”](https://blog.jim-nielsen.com/2024/notes-from-you-are-not-a-gadget/)*</cite>

#écriture #IA #parvenir

+ 266
- 0
david/2024/ecriture/index.html View File

@@ -134,6 +134,272 @@
</p>
</nav>
<h2>
<a href="/david/2024/06/28/" title="Lien permanent vers cet article">CompAIgnon</a> <time datetime="2024-06-28">28 juin 2024</time>
</h2>

<blockquote lang="en">
<p>Tech companies big and small sell AI as something that thinks for us. It <em>does</em> replace thought with statistics—but it is not intelligent. No one knows what the future will bring. <mark>But is a future without thought a better&nbsp;future?</mark></p>
<p>Now, with a tool that might help us think… How about using AI not to think less but <em>more</em>?</p>
<p><cite><em><a data-link-domain="ia.net" href="https://ia.net/topics/turning-the-tables-on-ai" hreflang="en"
title="Consultation de l’article (anglais)">Turning the Tables on AI</a>
<a href="/david/cache/2024/8f9d64c455a9246d5e23810ed10e3fe2/" hreflang="en"
data-tippy data-description="AI is sold to make us think less... How about using AI not to think less but *more*?"
data-source="https://ia.net/topics/turning-the-tables-on-ai"
data-date="2024-06-24"
data-favicon="https://ia.net/wp-content/themes/iA-library/assets/hotlink-ok/favicon-192x192.png"
data-domain="ia.net"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>Un article qui ne considère pas les <abbr lang="en" title="Large Language Model">LLM</abbr> comme des machines à écrire mais comme des aides à penser. Ce n’est <a href="/david/2024/01/13/" title="Wuwei">toujours pas pour moi</a> mais j’apprécie cette tentative d’inverser la&nbsp;relation.</p>
<p>Quelles doutes / confidences serait-on prêt·es à confesser à une IA plus qu’à un humain&#8239;? Qu’est-ce que cela raconterait de nos peurs et&nbsp;insécurités&#8239;?</p>

<blockquote lang="en">
<p>The people who are most confident AI can replace writers are the ones who think writing is&nbsp;typing.</p>
<p><cite>Andrew Ti sur&nbsp;X</cite></p>
</blockquote>
<a href="#hr-189" title="Lien vers cette section de la page"><hr id="hr-189" /></a>

<blockquote lang="en">
<p>Trust is a precious commodity. <mark>It takes a long time to build trust.</mark> It takes a short time to destroy&nbsp;it.</p>
<p>I am honestly astonished that so many companies don’t seem to realise what they’re&nbsp;destroying.</p>
<p><cite><em><a data-link-domain="adactio.com" href="https://adactio.com/journal/21160" hreflang="en"
title="Consultation de l’article (anglais)">Adactio: Journal-Trust</a>
<a href="/david/cache/2024/d4c01d246dc4f43aeb95c427ac5422a5/" hreflang="en"
data-tippy data-description="How to destroy your greatest asset with AI."
data-source="https://adactio.com/journal/21160"
data-date="2024-06-24"
data-favicon="https://adactio.com/icon.png"
data-domain="adactio.com"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>Lorsque la confiance est perdue avant même d’avoir vraiment été gagnée. <a data-link-domain="blog.kagi.com" href="https://blog.kagi.com/what-is-next-for-kagi#9" hreflang="en"
title="Consultation de l’article (anglais)">Coucou Kagi</a>
<a href="/david/cache/2024/463a5fd436bb887f90f9e01b01b7716b/" hreflang="en"
data-tippy data-description="Two years ago, on June 1st, 2022, Kagi introduced ( https://blog.kagi.com/kagi-orion-public-beta ) a search engine that challenged the ad-supported version of the web."
data-source="https://blog.kagi.com/what-is-next-for-kagi#9"
data-date="2024-06-24"
data-favicon="data:image/svg+xml,<svg xmlns=%22http://www.w3.org/2000/svg%22 viewBox=%220 0 100 100%22><text y=%22.9em%22 font-size=%2290%22>%f0%9f%97%9d%ef%b8%8f</text></svg>"
data-domain="blog.kagi.com"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a>. Et peut-être que c’est une bonne chose de ne pas se sentir loyal envers une marque / entreprise en fait&#8239;? Profit et confiance font rarement bon&nbsp;ménage.</p>

<blockquote lang="en">
<p>Apple’s been big on touting their environmental record in past presentations but left it out of this one. <mark>Maybe it’s hard to hype fancy autocorrect</mark> when we’re spinning carbon-intensive power plants back up to power&nbsp;it.</p>
<p>Less privacy. More environmental impact. More hype. <em>Cool.</em></p>
<p>More than anything it all goes to show that the one thing you can count on companies to do over the long term is disappoint&nbsp;you.</p>
<p><cite><em><a data-link-domain="coryd.dev" href="https://coryd.dev/posts/2024/did-anyone-ask-for-these-ai-features/" hreflang="en"
title="Consultation de l’article (anglais)">Did anyone ask for these AI features? • Cory Dransfeldt</a>
<a href="/david/cache/2024/486e49501e495e42b2e40320969c373f/" hreflang="en"
data-tippy data-description="I wasn't going to say anything about WWDC. I wasn't going to say anything about WWDC. But, did anyone actually ask for these AI features?"
data-source="https://coryd.dev/posts/2024/did-anyone-ask-for-these-ai-features/"
data-date="2024-06-24"
data-favicon="https://cdn.coryd.dev/assets/icons/favicon.svg?v=19.5.32"
data-domain="coryd.dev"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<a href="#hr-190" title="Lien vers cette section de la page"><hr id="hr-190" /></a>

<blockquote lang="en">
<p>Recently, however, a number of execs and so-called “thought leaders” in tech seem to have genuinely convinced themselves that generative AI is on the verge of replacing all the work done by junior engineers. I have read so many articles about how junior engineering work is being automated out of existence, or that the need for junior engineers is shriveling up. It has officially driven me&nbsp;bonkers.</p>
<p>All of this bespeaks a deep misunderstanding about what engineers actually do. <mark>By not hiring and training up junior engineers, we are cannibalizing our own future.</mark> We need to <em>stop doing that</em>.</p>
<p><cite><em><a data-link-domain="stackoverflow.blog" href="https://stackoverflow.blog/2024/06/10/generative-ai-is-not-going-to-build-your-engineering-team-for-you/" hreflang="en"
title="Consultation de l’article (anglais)">Generative AI Is Not Going To Build Your Engineering Team For You</a>
<a href="/david/cache/2024/93c287363dbe9cae22f4360c5b107971/" hreflang="en"
data-tippy data-description=""
data-source="https://stackoverflow.blog/2024/06/10/generative-ai-is-not-going-to-build-your-engineering-team-for-you/"
data-date="2024-06-24"
data-favicon="https://stackoverflow.blog/favicon.ico"
data-domain="stackoverflow.blog"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>C’est l’une de mes réflexions actuelles pour une future activité qui inclurait de la transmission / montée en compétence technique. J’ai l’impression de pouvoir apporter des choses dans le domaine et les personnes que l’on appelle «&nbsp;junior&nbsp;» galèrent pour trouver du boulot alors qu’elles sont déjà&nbsp;capables.</p>
<a href="#hr-191" title="Lien vers cette section de la page"><hr id="hr-191" /></a>

<blockquote lang="en">
<p>The modern tech company or capitalistic enterprise is taking cues from fascism and dictators in how they introduce a small piece of controversy, like a testing of the waters. Wait for an “overreaction” by the masses/their audience/core users, wait for that to burnout and normalize, before flooding the zone with too much to fight or argue with all at once. <mark>This is the same way fascism causes burnout</mark> and complacency and feelings of helplessness, like there’s nothing to be done to fight the&nbsp;thing.</p>
<p>This is what is being done with&nbsp;AI.</p>
<p><cite><em><a data-link-domain="micro.anniegreens.lol" href="https://micro.anniegreens.lol/2024/05/06/ive-had-this.html" hreflang="en"
title="Consultation de l’article (anglais)">I’ve had this thought but never put it into words.</a>
<a href="/david/cache/2024/54ee1030f6fef778ec10e59726bc5731/" hreflang="en"
data-tippy data-description="The modern tech company or capitalistic enterprise is taking …"
data-source="https://micro.anniegreens.lol/2024/05/06/ive-had-this.html"
data-date="2024-06-24"
data-favicon="https://micro.blog/anniegreens/favicon.png"
data-domain="micro.anniegreens.lol"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>À relire dans un contexte d’élections&nbsp;#OhWait.</p>
<a href="#hr-192" title="Lien vers cette section de la page"><hr id="hr-192" /></a>

<blockquote>
<p>L’une des grandes peurs entourant le déploiement des systèmes d’intelligence artificielle (IA) concerne ses potentielles «&nbsp;dérives&nbsp;», quand celle-ci pourrait «&nbsp;déraper&nbsp;». Sauf que, rappelle Ollivier Dyens, l’humanité n’a pas eu besoin de l’IA pour commettre des atrocités – camps de concentration, bombe atomique, massacres à la machette et à la baïonnette, etc. <em>Pourquoi devrions-nous avoir davantage peur de&nbsp;l’IA&#8239;?</em></p>
<p>L’intelligence artificielle, en tant que reflet de «&nbsp;nous-mêmes&nbsp;», pourrait en fait nous servir de miroir, à nous faire voir ce qui nous caractérise&#8239; (en tant qu’êtres humains, individuellement et collectivement), <mark>à nous montrer nos propres biais – et en particulier ceux que nous n’arrivons pas à discerner&nbsp;nous-mêmes.</mark></p>
<p><cite><em><a data-link-domain="lobrassard.net" href="https://www.lobrassard.net/carnet/2024-06-14-idees-recues-ecole-ete-humanites-numeriques.html" hreflang="fr"
title="Consultation de l’article">Cinq idées reçues lors de l’école d’été sur les humanités numériques</a>
<a href="/david/cache/2024/92ca1fc6eb390997db6b76afaf742d63/" hreflang="fr"
data-tippy data-description="Carnet de recherche de Louis-Olivier Brassard."
data-source="https://www.lobrassard.net/carnet/2024-06-14-idees-recues-ecole-ete-humanites-numeriques.html"
data-date="2024-06-24"
data-favicon="data:;base64,iVBORw0KGgo="
data-domain="lobrassard.net"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>Compte-tenu de la façon dont sont entraînés ces LLM, la démonstration de ces biais se ferait en les accentuant… ce qui aurait potentiellement pour effet de les encourager au&nbsp;final&#8239;?!</p>
<a href="#hr-193" title="Lien vers cette section de la page"><hr id="hr-193" /></a>

<blockquote>
<p>Selon Louise Champoux-Paillé et Anne-Marie Croteau de l’École de gestion John-Molson, Université Concordia, les femmes sont moins intéressées par l’IA que les hommes, donc sont plus à risque de perdre leur emploi dans l’avenir. En fait, est-ce vraiment un manque d’intérêt ou ne serait-ce pas plutôt <mark>la difficulté de se tailler une place parce que les hommes ont la&nbsp;préférence?</mark></p>
<p><cite><em><a data-link-domain="mimo.blog" href="https://mimo.blog/le-panneau-des-prejuges" hreflang="fr"
title="Consultation de l’article">Le panneau des préjugés</a>
<a href="/david/cache/2024/63a6d75aee63c072c6d3b174c918740e/" hreflang="fr"
data-tippy data-description="Selon Louise Champoux-Paillé et Anne-Marie Croteau de l'École de gestion John-Molson, Université Concordia, les femmes sont moins intéres..."
data-source="https://mimo.blog/le-panneau-des-prejuges"
data-date="2024-06-24"
data-favicon="https://i.snap.as/CoWgXgFY.png"
data-domain="mimo.blog"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>En parlant de&nbsp;biais.</p>
<a href="#hr-194" title="Lien vers cette section de la page"><hr id="hr-194" /></a>

<blockquote>
<p>Dire que ChatGPT «&nbsp;hallucine&nbsp;» est un anthropomorphisme&nbsp;: c’est une métaphore, une représentation calquée sur une réalité que nous vivons en tant qu’humains&#8239;; en l’occurrence, on hallucine quand on perçoit quelque chose qui n’est pas vraiment&nbsp;là.</p>
<p>Or la réalité du fonctionnement de ChatGPT, qui est basé sur un grand modèle de langue (large language model, LLM) est très différente&nbsp;: […]</p>
<p>C’est essentiel à comprendre&nbsp;: en tant que programme, <mark>la fonction de ChatGPT n’est pas de nous informer mais de simuler un interlocuteur humain.</mark> Pour cela, il assemble des éléments de langage de manière&nbsp;probabiliste.</p>
<p><cite><em><a data-link-domain="arthurperret.fr" href="https://www.arthurperret.fr/blog/2024-06-21-chatgpt-et-l-indifference-a-la-verite.html" hreflang="fr"
title="Consultation de l’article">ChatGPT et l’indifférence à la vérité</a>
<a href="/david/cache/2024/8b0a0eb43814f315e2b296aa5bdd5eee/" hreflang="fr"
data-tippy data-description="Site web d’Arthur Perret, enseignant-chercheur en SIC."
data-source="https://www.arthurperret.fr/blog/2024-06-21-chatgpt-et-l-indifference-a-la-verite.html"
data-date="2024-06-24"
data-favicon="https://www.arthurperret.fr/blog/favicon-32x32.png"
data-domain="arthurperret.fr"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>De l’importance du champ lexical qui entoure ces technologies. Ces outils ne manipulent pas que des mots, ils nous font croire à une nouvelle vérité alors qu’ils n’en ont pas la capacité. Et une partie de l’humanité devient croyante. (Le parallèle avec une religion est&nbsp;assumé.)</p>
<a href="#hr-195" title="Lien vers cette section de la page"><hr id="hr-195" /></a>

<blockquote lang="en">
<p>Don’t let the past steal your&nbsp;present.</p>
<p><cite>Cherríe L. Moraga</cite></p>
</blockquote>
<p>Comment les LLM peuvent-ils nous empêcher de tourner en rond pour aller <a href="/david/stream/2018/04/07/">vers la spirale</a>&#8239;? Je me fais du souci <a data-link-domain="arxiv.org" href="https://arxiv.org/abs/2406.07016">pour la science</a>&nbsp;notamment&nbsp;:</p>

<blockquote lang="en">
<p>Recent large language models (LLMs) can generate and revise text with human-level performance, and have been widely commercialized in systems like ChatGPT. These models come with clear limitations: they can produce inaccurate information, reinforce existing biases, and be easily misused. Yet, many scientists have been using them to assist their scholarly writing. How wide-spread is LLM usage in the academic literature currently? To answer this question, we use an unbiased, large-scale approach, free from any assumptions on academic LLM usage. We study vocabulary changes in 14&nbsp;million PubMed abstracts from 2010-2024, and show how the appearance of LLMs led to an abrupt increase in the frequency of certain style words. <mark>Our analysis based on excess words usage suggests that at least 10% of 2024&nbsp;abstracts were processed with LLMs. This lower bound differed across disciplines, countries, and journals, and was as high as 30% for some PubMed sub-corpora. We show that the appearance of LLM-based writing assistants has had an unprecedented impact in the scientific literature, surpassing the effect of major world events such as the Covid&nbsp;pandemic.</mark></p>
</blockquote>
<p>Avec l’éternel questionnement associé, qui ne date pas&nbsp;d’hier&nbsp;:</p>

<blockquote lang="en">
<p>So we enshrine the idea of intelligence into our computing paradigm when we don’t even know what it means for ourselves. <mark>Are we making computers smarter or ourselves&nbsp;dumber?</mark></p>

<blockquote>
<p>You can’t tell if a machine has gotten smarter or if you’ve just lowered your own standards of intelligence to such a degree that the machine seems&nbsp;smart.</p>
</blockquote>
<p>Prescient.</p>
<p><cite><em><a data-link-domain="blog.jim-nielsen.com" href="https://blog.jim-nielsen.com/2024/notes-from-you-are-not-a-gadget/" hreflang="en"
title="Consultation de l’article (anglais)">Notes From “You Are Not A Gadget”</a>
<a href="/david/cache/2024/b39aef611801e2b15f189e8d02586b88/" hreflang="en"
data-tippy data-description="Writing about the big beautiful mess that is making things for the world wide web."
data-source="https://blog.jim-nielsen.com/2024/notes-from-you-are-not-a-gadget/"
data-date="2024-06-24"
data-favicon="https://blog.jim-nielsen.com/favicon.ico"
data-domain="blog.jim-nielsen.com"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>

<nav>
<p>
<a href="/david/2024/ecriture/"
title="Liste de tous les articles 2024 associés à cette étiquette"
rel="tag">#écriture</a>
<a href="/david/2024/ia/"
title="Liste de tous les articles 2024 associés à cette étiquette"
rel="tag">#IA</a>
<a href="/david/2024/parvenir/"
title="Liste de tous les articles 2024 associés à cette étiquette"
rel="tag">#parvenir</a>
<a href="/david/2024/#tags" title="Liste de toutes les étiquettes 2024">tous ?</a>
</p>
</nav>
<h2>
<a href="/david/2024/06/21/" title="Lien permanent vers cet article">Jour 1</a> <time datetime="2024-06-21">21 juin 2024</time>
</h2>

+ 266
- 0
david/2024/ia/index.html View File

@@ -134,6 +134,272 @@
</p>
</nav>
<h2>
<a href="/david/2024/06/28/" title="Lien permanent vers cet article">CompAIgnon</a> <time datetime="2024-06-28">28 juin 2024</time>
</h2>

<blockquote lang="en">
<p>Tech companies big and small sell AI as something that thinks for us. It <em>does</em> replace thought with statistics—but it is not intelligent. No one knows what the future will bring. <mark>But is a future without thought a better&nbsp;future?</mark></p>
<p>Now, with a tool that might help us think… How about using AI not to think less but <em>more</em>?</p>
<p><cite><em><a data-link-domain="ia.net" href="https://ia.net/topics/turning-the-tables-on-ai" hreflang="en"
title="Consultation de l’article (anglais)">Turning the Tables on AI</a>
<a href="/david/cache/2024/8f9d64c455a9246d5e23810ed10e3fe2/" hreflang="en"
data-tippy data-description="AI is sold to make us think less... How about using AI not to think less but *more*?"
data-source="https://ia.net/topics/turning-the-tables-on-ai"
data-date="2024-06-24"
data-favicon="https://ia.net/wp-content/themes/iA-library/assets/hotlink-ok/favicon-192x192.png"
data-domain="ia.net"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>Un article qui ne considère pas les <abbr lang="en" title="Large Language Model">LLM</abbr> comme des machines à écrire mais comme des aides à penser. Ce n’est <a href="/david/2024/01/13/" title="Wuwei">toujours pas pour moi</a> mais j’apprécie cette tentative d’inverser la&nbsp;relation.</p>
<p>Quelles doutes / confidences serait-on prêt·es à confesser à une IA plus qu’à un humain&#8239;? Qu’est-ce que cela raconterait de nos peurs et&nbsp;insécurités&#8239;?</p>

<blockquote lang="en">
<p>The people who are most confident AI can replace writers are the ones who think writing is&nbsp;typing.</p>
<p><cite>Andrew Ti sur&nbsp;X</cite></p>
</blockquote>
<a href="#hr-189" title="Lien vers cette section de la page"><hr id="hr-189" /></a>

<blockquote lang="en">
<p>Trust is a precious commodity. <mark>It takes a long time to build trust.</mark> It takes a short time to destroy&nbsp;it.</p>
<p>I am honestly astonished that so many companies don’t seem to realise what they’re&nbsp;destroying.</p>
<p><cite><em><a data-link-domain="adactio.com" href="https://adactio.com/journal/21160" hreflang="en"
title="Consultation de l’article (anglais)">Adactio: Journal-Trust</a>
<a href="/david/cache/2024/d4c01d246dc4f43aeb95c427ac5422a5/" hreflang="en"
data-tippy data-description="How to destroy your greatest asset with AI."
data-source="https://adactio.com/journal/21160"
data-date="2024-06-24"
data-favicon="https://adactio.com/icon.png"
data-domain="adactio.com"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>Lorsque la confiance est perdue avant même d’avoir vraiment été gagnée. <a data-link-domain="blog.kagi.com" href="https://blog.kagi.com/what-is-next-for-kagi#9" hreflang="en"
title="Consultation de l’article (anglais)">Coucou Kagi</a>
<a href="/david/cache/2024/463a5fd436bb887f90f9e01b01b7716b/" hreflang="en"
data-tippy data-description="Two years ago, on June 1st, 2022, Kagi introduced ( https://blog.kagi.com/kagi-orion-public-beta ) a search engine that challenged the ad-supported version of the web."
data-source="https://blog.kagi.com/what-is-next-for-kagi#9"
data-date="2024-06-24"
data-favicon="data:image/svg+xml,<svg xmlns=%22http://www.w3.org/2000/svg%22 viewBox=%220 0 100 100%22><text y=%22.9em%22 font-size=%2290%22>%f0%9f%97%9d%ef%b8%8f</text></svg>"
data-domain="blog.kagi.com"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a>. Et peut-être que c’est une bonne chose de ne pas se sentir loyal envers une marque / entreprise en fait&#8239;? Profit et confiance font rarement bon&nbsp;ménage.</p>

<blockquote lang="en">
<p>Apple’s been big on touting their environmental record in past presentations but left it out of this one. <mark>Maybe it’s hard to hype fancy autocorrect</mark> when we’re spinning carbon-intensive power plants back up to power&nbsp;it.</p>
<p>Less privacy. More environmental impact. More hype. <em>Cool.</em></p>
<p>More than anything it all goes to show that the one thing you can count on companies to do over the long term is disappoint&nbsp;you.</p>
<p><cite><em><a data-link-domain="coryd.dev" href="https://coryd.dev/posts/2024/did-anyone-ask-for-these-ai-features/" hreflang="en"
title="Consultation de l’article (anglais)">Did anyone ask for these AI features? • Cory Dransfeldt</a>
<a href="/david/cache/2024/486e49501e495e42b2e40320969c373f/" hreflang="en"
data-tippy data-description="I wasn't going to say anything about WWDC. I wasn't going to say anything about WWDC. But, did anyone actually ask for these AI features?"
data-source="https://coryd.dev/posts/2024/did-anyone-ask-for-these-ai-features/"
data-date="2024-06-24"
data-favicon="https://cdn.coryd.dev/assets/icons/favicon.svg?v=19.5.32"
data-domain="coryd.dev"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<a href="#hr-190" title="Lien vers cette section de la page"><hr id="hr-190" /></a>

<blockquote lang="en">
<p>Recently, however, a number of execs and so-called “thought leaders” in tech seem to have genuinely convinced themselves that generative AI is on the verge of replacing all the work done by junior engineers. I have read so many articles about how junior engineering work is being automated out of existence, or that the need for junior engineers is shriveling up. It has officially driven me&nbsp;bonkers.</p>
<p>All of this bespeaks a deep misunderstanding about what engineers actually do. <mark>By not hiring and training up junior engineers, we are cannibalizing our own future.</mark> We need to <em>stop doing that</em>.</p>
<p><cite><em><a data-link-domain="stackoverflow.blog" href="https://stackoverflow.blog/2024/06/10/generative-ai-is-not-going-to-build-your-engineering-team-for-you/" hreflang="en"
title="Consultation de l’article (anglais)">Generative AI Is Not Going To Build Your Engineering Team For You</a>
<a href="/david/cache/2024/93c287363dbe9cae22f4360c5b107971/" hreflang="en"
data-tippy data-description=""
data-source="https://stackoverflow.blog/2024/06/10/generative-ai-is-not-going-to-build-your-engineering-team-for-you/"
data-date="2024-06-24"
data-favicon="https://stackoverflow.blog/favicon.ico"
data-domain="stackoverflow.blog"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>C’est l’une de mes réflexions actuelles pour une future activité qui inclurait de la transmission / montée en compétence technique. J’ai l’impression de pouvoir apporter des choses dans le domaine et les personnes que l’on appelle «&nbsp;junior&nbsp;» galèrent pour trouver du boulot alors qu’elles sont déjà&nbsp;capables.</p>
<a href="#hr-191" title="Lien vers cette section de la page"><hr id="hr-191" /></a>

<blockquote lang="en">
<p>The modern tech company or capitalistic enterprise is taking cues from fascism and dictators in how they introduce a small piece of controversy, like a testing of the waters. Wait for an “overreaction” by the masses/their audience/core users, wait for that to burnout and normalize, before flooding the zone with too much to fight or argue with all at once. <mark>This is the same way fascism causes burnout</mark> and complacency and feelings of helplessness, like there’s nothing to be done to fight the&nbsp;thing.</p>
<p>This is what is being done with&nbsp;AI.</p>
<p><cite><em><a data-link-domain="micro.anniegreens.lol" href="https://micro.anniegreens.lol/2024/05/06/ive-had-this.html" hreflang="en"
title="Consultation de l’article (anglais)">I’ve had this thought but never put it into words.</a>
<a href="/david/cache/2024/54ee1030f6fef778ec10e59726bc5731/" hreflang="en"
data-tippy data-description="The modern tech company or capitalistic enterprise is taking …"
data-source="https://micro.anniegreens.lol/2024/05/06/ive-had-this.html"
data-date="2024-06-24"
data-favicon="https://micro.blog/anniegreens/favicon.png"
data-domain="micro.anniegreens.lol"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>À relire dans un contexte d’élections&nbsp;#OhWait.</p>
<a href="#hr-192" title="Lien vers cette section de la page"><hr id="hr-192" /></a>

<blockquote>
<p>L’une des grandes peurs entourant le déploiement des systèmes d’intelligence artificielle (IA) concerne ses potentielles «&nbsp;dérives&nbsp;», quand celle-ci pourrait «&nbsp;déraper&nbsp;». Sauf que, rappelle Ollivier Dyens, l’humanité n’a pas eu besoin de l’IA pour commettre des atrocités – camps de concentration, bombe atomique, massacres à la machette et à la baïonnette, etc. <em>Pourquoi devrions-nous avoir davantage peur de&nbsp;l’IA&#8239;?</em></p>
<p>L’intelligence artificielle, en tant que reflet de «&nbsp;nous-mêmes&nbsp;», pourrait en fait nous servir de miroir, à nous faire voir ce qui nous caractérise&#8239; (en tant qu’êtres humains, individuellement et collectivement), <mark>à nous montrer nos propres biais – et en particulier ceux que nous n’arrivons pas à discerner&nbsp;nous-mêmes.</mark></p>
<p><cite><em><a data-link-domain="lobrassard.net" href="https://www.lobrassard.net/carnet/2024-06-14-idees-recues-ecole-ete-humanites-numeriques.html" hreflang="fr"
title="Consultation de l’article">Cinq idées reçues lors de l’école d’été sur les humanités numériques</a>
<a href="/david/cache/2024/92ca1fc6eb390997db6b76afaf742d63/" hreflang="fr"
data-tippy data-description="Carnet de recherche de Louis-Olivier Brassard."
data-source="https://www.lobrassard.net/carnet/2024-06-14-idees-recues-ecole-ete-humanites-numeriques.html"
data-date="2024-06-24"
data-favicon="data:;base64,iVBORw0KGgo="
data-domain="lobrassard.net"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>Compte-tenu de la façon dont sont entraînés ces LLM, la démonstration de ces biais se ferait en les accentuant… ce qui aurait potentiellement pour effet de les encourager au&nbsp;final&#8239;?!</p>
<a href="#hr-193" title="Lien vers cette section de la page"><hr id="hr-193" /></a>

<blockquote>
<p>Selon Louise Champoux-Paillé et Anne-Marie Croteau de l’École de gestion John-Molson, Université Concordia, les femmes sont moins intéressées par l’IA que les hommes, donc sont plus à risque de perdre leur emploi dans l’avenir. En fait, est-ce vraiment un manque d’intérêt ou ne serait-ce pas plutôt <mark>la difficulté de se tailler une place parce que les hommes ont la&nbsp;préférence?</mark></p>
<p><cite><em><a data-link-domain="mimo.blog" href="https://mimo.blog/le-panneau-des-prejuges" hreflang="fr"
title="Consultation de l’article">Le panneau des préjugés</a>
<a href="/david/cache/2024/63a6d75aee63c072c6d3b174c918740e/" hreflang="fr"
data-tippy data-description="Selon Louise Champoux-Paillé et Anne-Marie Croteau de l'École de gestion John-Molson, Université Concordia, les femmes sont moins intéres..."
data-source="https://mimo.blog/le-panneau-des-prejuges"
data-date="2024-06-24"
data-favicon="https://i.snap.as/CoWgXgFY.png"
data-domain="mimo.blog"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>En parlant de&nbsp;biais.</p>
<a href="#hr-194" title="Lien vers cette section de la page"><hr id="hr-194" /></a>

<blockquote>
<p>Dire que ChatGPT «&nbsp;hallucine&nbsp;» est un anthropomorphisme&nbsp;: c’est une métaphore, une représentation calquée sur une réalité que nous vivons en tant qu’humains&#8239;; en l’occurrence, on hallucine quand on perçoit quelque chose qui n’est pas vraiment&nbsp;là.</p>
<p>Or la réalité du fonctionnement de ChatGPT, qui est basé sur un grand modèle de langue (large language model, LLM) est très différente&nbsp;: […]</p>
<p>C’est essentiel à comprendre&nbsp;: en tant que programme, <mark>la fonction de ChatGPT n’est pas de nous informer mais de simuler un interlocuteur humain.</mark> Pour cela, il assemble des éléments de langage de manière&nbsp;probabiliste.</p>
<p><cite><em><a data-link-domain="arthurperret.fr" href="https://www.arthurperret.fr/blog/2024-06-21-chatgpt-et-l-indifference-a-la-verite.html" hreflang="fr"
title="Consultation de l’article">ChatGPT et l’indifférence à la vérité</a>
<a href="/david/cache/2024/8b0a0eb43814f315e2b296aa5bdd5eee/" hreflang="fr"
data-tippy data-description="Site web d’Arthur Perret, enseignant-chercheur en SIC."
data-source="https://www.arthurperret.fr/blog/2024-06-21-chatgpt-et-l-indifference-a-la-verite.html"
data-date="2024-06-24"
data-favicon="https://www.arthurperret.fr/blog/favicon-32x32.png"
data-domain="arthurperret.fr"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>De l’importance du champ lexical qui entoure ces technologies. Ces outils ne manipulent pas que des mots, ils nous font croire à une nouvelle vérité alors qu’ils n’en ont pas la capacité. Et une partie de l’humanité devient croyante. (Le parallèle avec une religion est&nbsp;assumé.)</p>
<a href="#hr-195" title="Lien vers cette section de la page"><hr id="hr-195" /></a>

<blockquote lang="en">
<p>Don’t let the past steal your&nbsp;present.</p>
<p><cite>Cherríe L. Moraga</cite></p>
</blockquote>
<p>Comment les LLM peuvent-ils nous empêcher de tourner en rond pour aller <a href="/david/stream/2018/04/07/">vers la spirale</a>&#8239;? Je me fais du souci <a data-link-domain="arxiv.org" href="https://arxiv.org/abs/2406.07016">pour la science</a>&nbsp;notamment&nbsp;:</p>

<blockquote lang="en">
<p>Recent large language models (LLMs) can generate and revise text with human-level performance, and have been widely commercialized in systems like ChatGPT. These models come with clear limitations: they can produce inaccurate information, reinforce existing biases, and be easily misused. Yet, many scientists have been using them to assist their scholarly writing. How wide-spread is LLM usage in the academic literature currently? To answer this question, we use an unbiased, large-scale approach, free from any assumptions on academic LLM usage. We study vocabulary changes in 14&nbsp;million PubMed abstracts from 2010-2024, and show how the appearance of LLMs led to an abrupt increase in the frequency of certain style words. <mark>Our analysis based on excess words usage suggests that at least 10% of 2024&nbsp;abstracts were processed with LLMs. This lower bound differed across disciplines, countries, and journals, and was as high as 30% for some PubMed sub-corpora. We show that the appearance of LLM-based writing assistants has had an unprecedented impact in the scientific literature, surpassing the effect of major world events such as the Covid&nbsp;pandemic.</mark></p>
</blockquote>
<p>Avec l’éternel questionnement associé, qui ne date pas&nbsp;d’hier&nbsp;:</p>

<blockquote lang="en">
<p>So we enshrine the idea of intelligence into our computing paradigm when we don’t even know what it means for ourselves. <mark>Are we making computers smarter or ourselves&nbsp;dumber?</mark></p>

<blockquote>
<p>You can’t tell if a machine has gotten smarter or if you’ve just lowered your own standards of intelligence to such a degree that the machine seems&nbsp;smart.</p>
</blockquote>
<p>Prescient.</p>
<p><cite><em><a data-link-domain="blog.jim-nielsen.com" href="https://blog.jim-nielsen.com/2024/notes-from-you-are-not-a-gadget/" hreflang="en"
title="Consultation de l’article (anglais)">Notes From “You Are Not A Gadget”</a>
<a href="/david/cache/2024/b39aef611801e2b15f189e8d02586b88/" hreflang="en"
data-tippy data-description="Writing about the big beautiful mess that is making things for the world wide web."
data-source="https://blog.jim-nielsen.com/2024/notes-from-you-are-not-a-gadget/"
data-date="2024-06-24"
data-favicon="https://blog.jim-nielsen.com/favicon.ico"
data-domain="blog.jim-nielsen.com"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>

<nav>
<p>
<a href="/david/2024/ecriture/"
title="Liste de tous les articles 2024 associés à cette étiquette"
rel="tag">#écriture</a>
<a href="/david/2024/ia/"
title="Liste de tous les articles 2024 associés à cette étiquette"
rel="tag">#IA</a>
<a href="/david/2024/parvenir/"
title="Liste de tous les articles 2024 associés à cette étiquette"
rel="tag">#parvenir</a>
<a href="/david/2024/#tags" title="Liste de toutes les étiquettes 2024">tous ?</a>
</p>
</nav>
<h2>
<a href="/david/2024/02/21/" title="Lien permanent vers cet article">Cinéma</a> <time datetime="2024-02-21">21 février 2024</time>
</h2>

+ 5
- 4
david/2024/index.html View File

@@ -265,7 +265,8 @@
<a href="/david/2024/06/09/">Possibilités</a>,
<a href="/david/2024/06/20/">Auto-promotion</a>,
<a href="/david/2024/06/21/">Jour 1</a>,
<a href="/david/2024/06/22/">Jour 2</a>.
<a href="/david/2024/06/22/">Jour 2</a>,
<a href="/david/2024/06/28/">CompAIgnon</a>.
</p>
@@ -290,7 +291,7 @@
<a href="/david/2024/documentation/" rel="tag">#documentation (4)</a>,
<a href="/david/2024/dystopie/" rel="tag">#dystopie (5)</a>,
<a href="/david/2024/echanges/" rel="tag">#échanges (5)</a>,
<a href="/david/2024/ecriture/" rel="tag">#écriture (10)</a>,
<a href="/david/2024/ecriture/" rel="tag">#écriture (11)</a>,
<a href="/david/2024/enthousiasme/" rel="tag">#enthousiasme (5)</a>,
<a href="/david/2024/equipe/" rel="tag">#équipe (9)</a>,
<a href="/david/2024/evolution/" rel="tag">#évolution (11)</a>,
@@ -298,7 +299,7 @@
<a href="/david/2024/fediverse/" rel="tag">#fédiverse (1)</a>,
<a href="/david/2024/foret/" rel="tag">#forêt (14)</a>,
<a href="/david/2024/gratitude/" rel="tag">#gratitude (5)</a>,
<a href="/david/2024/ia/" rel="tag">#IA (3)</a>,
<a href="/david/2024/ia/" rel="tag">#IA (4)</a>,
<a href="/david/2024/identite/" rel="tag">#identité (1)</a>,
<a href="/david/2024/introspection/" rel="tag">#introspection (6)</a>,
<a href="/david/2024/laboratoire/" rel="tag">#laboratoire (7)</a>,
@@ -308,7 +309,7 @@
<a href="/david/2024/opensource/" rel="tag">#opensource (10)</a>,
<a href="/david/2024/parentalite/" rel="tag">#parentalité (6)</a>,
<a href="/david/2024/partage/" rel="tag">#partage (9)</a>,
<a href="/david/2024/parvenir/" rel="tag">#parvenir (3)</a>,
<a href="/david/2024/parvenir/" rel="tag">#parvenir (4)</a>,
<a href="/david/2024/photographie/" rel="tag">#photographie (4)</a>,
<a href="/david/2024/poesie/" rel="tag">#poésie (4)</a>,
<a href="/david/2024/processus/" rel="tag">#processus (11)</a>,

+ 266
- 0
david/2024/parvenir/index.html View File

@@ -134,6 +134,272 @@
</p>
</nav>
<h2>
<a href="/david/2024/06/28/" title="Lien permanent vers cet article">CompAIgnon</a> <time datetime="2024-06-28">28 juin 2024</time>
</h2>

<blockquote lang="en">
<p>Tech companies big and small sell AI as something that thinks for us. It <em>does</em> replace thought with statistics—but it is not intelligent. No one knows what the future will bring. <mark>But is a future without thought a better&nbsp;future?</mark></p>
<p>Now, with a tool that might help us think… How about using AI not to think less but <em>more</em>?</p>
<p><cite><em><a data-link-domain="ia.net" href="https://ia.net/topics/turning-the-tables-on-ai" hreflang="en"
title="Consultation de l’article (anglais)">Turning the Tables on AI</a>
<a href="/david/cache/2024/8f9d64c455a9246d5e23810ed10e3fe2/" hreflang="en"
data-tippy data-description="AI is sold to make us think less... How about using AI not to think less but *more*?"
data-source="https://ia.net/topics/turning-the-tables-on-ai"
data-date="2024-06-24"
data-favicon="https://ia.net/wp-content/themes/iA-library/assets/hotlink-ok/favicon-192x192.png"
data-domain="ia.net"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>Un article qui ne considère pas les <abbr lang="en" title="Large Language Model">LLM</abbr> comme des machines à écrire mais comme des aides à penser. Ce n’est <a href="/david/2024/01/13/" title="Wuwei">toujours pas pour moi</a> mais j’apprécie cette tentative d’inverser la&nbsp;relation.</p>
<p>Quelles doutes / confidences serait-on prêt·es à confesser à une IA plus qu’à un humain&#8239;? Qu’est-ce que cela raconterait de nos peurs et&nbsp;insécurités&#8239;?</p>

<blockquote lang="en">
<p>The people who are most confident AI can replace writers are the ones who think writing is&nbsp;typing.</p>
<p><cite>Andrew Ti sur&nbsp;X</cite></p>
</blockquote>
<a href="#hr-189" title="Lien vers cette section de la page"><hr id="hr-189" /></a>

<blockquote lang="en">
<p>Trust is a precious commodity. <mark>It takes a long time to build trust.</mark> It takes a short time to destroy&nbsp;it.</p>
<p>I am honestly astonished that so many companies don’t seem to realise what they’re&nbsp;destroying.</p>
<p><cite><em><a data-link-domain="adactio.com" href="https://adactio.com/journal/21160" hreflang="en"
title="Consultation de l’article (anglais)">Adactio: Journal-Trust</a>
<a href="/david/cache/2024/d4c01d246dc4f43aeb95c427ac5422a5/" hreflang="en"
data-tippy data-description="How to destroy your greatest asset with AI."
data-source="https://adactio.com/journal/21160"
data-date="2024-06-24"
data-favicon="https://adactio.com/icon.png"
data-domain="adactio.com"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>Lorsque la confiance est perdue avant même d’avoir vraiment été gagnée. <a data-link-domain="blog.kagi.com" href="https://blog.kagi.com/what-is-next-for-kagi#9" hreflang="en"
title="Consultation de l’article (anglais)">Coucou Kagi</a>
<a href="/david/cache/2024/463a5fd436bb887f90f9e01b01b7716b/" hreflang="en"
data-tippy data-description="Two years ago, on June 1st, 2022, Kagi introduced ( https://blog.kagi.com/kagi-orion-public-beta ) a search engine that challenged the ad-supported version of the web."
data-source="https://blog.kagi.com/what-is-next-for-kagi#9"
data-date="2024-06-24"
data-favicon="data:image/svg+xml,<svg xmlns=%22http://www.w3.org/2000/svg%22 viewBox=%220 0 100 100%22><text y=%22.9em%22 font-size=%2290%22>%f0%9f%97%9d%ef%b8%8f</text></svg>"
data-domain="blog.kagi.com"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a>. Et peut-être que c’est une bonne chose de ne pas se sentir loyal envers une marque / entreprise en fait&#8239;? Profit et confiance font rarement bon&nbsp;ménage.</p>

<blockquote lang="en">
<p>Apple’s been big on touting their environmental record in past presentations but left it out of this one. <mark>Maybe it’s hard to hype fancy autocorrect</mark> when we’re spinning carbon-intensive power plants back up to power&nbsp;it.</p>
<p>Less privacy. More environmental impact. More hype. <em>Cool.</em></p>
<p>More than anything it all goes to show that the one thing you can count on companies to do over the long term is disappoint&nbsp;you.</p>
<p><cite><em><a data-link-domain="coryd.dev" href="https://coryd.dev/posts/2024/did-anyone-ask-for-these-ai-features/" hreflang="en"
title="Consultation de l’article (anglais)">Did anyone ask for these AI features? • Cory Dransfeldt</a>
<a href="/david/cache/2024/486e49501e495e42b2e40320969c373f/" hreflang="en"
data-tippy data-description="I wasn't going to say anything about WWDC. I wasn't going to say anything about WWDC. But, did anyone actually ask for these AI features?"
data-source="https://coryd.dev/posts/2024/did-anyone-ask-for-these-ai-features/"
data-date="2024-06-24"
data-favicon="https://cdn.coryd.dev/assets/icons/favicon.svg?v=19.5.32"
data-domain="coryd.dev"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<a href="#hr-190" title="Lien vers cette section de la page"><hr id="hr-190" /></a>

<blockquote lang="en">
<p>Recently, however, a number of execs and so-called “thought leaders” in tech seem to have genuinely convinced themselves that generative AI is on the verge of replacing all the work done by junior engineers. I have read so many articles about how junior engineering work is being automated out of existence, or that the need for junior engineers is shriveling up. It has officially driven me&nbsp;bonkers.</p>
<p>All of this bespeaks a deep misunderstanding about what engineers actually do. <mark>By not hiring and training up junior engineers, we are cannibalizing our own future.</mark> We need to <em>stop doing that</em>.</p>
<p><cite><em><a data-link-domain="stackoverflow.blog" href="https://stackoverflow.blog/2024/06/10/generative-ai-is-not-going-to-build-your-engineering-team-for-you/" hreflang="en"
title="Consultation de l’article (anglais)">Generative AI Is Not Going To Build Your Engineering Team For You</a>
<a href="/david/cache/2024/93c287363dbe9cae22f4360c5b107971/" hreflang="en"
data-tippy data-description=""
data-source="https://stackoverflow.blog/2024/06/10/generative-ai-is-not-going-to-build-your-engineering-team-for-you/"
data-date="2024-06-24"
data-favicon="https://stackoverflow.blog/favicon.ico"
data-domain="stackoverflow.blog"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>C’est l’une de mes réflexions actuelles pour une future activité qui inclurait de la transmission / montée en compétence technique. J’ai l’impression de pouvoir apporter des choses dans le domaine et les personnes que l’on appelle «&nbsp;junior&nbsp;» galèrent pour trouver du boulot alors qu’elles sont déjà&nbsp;capables.</p>
<a href="#hr-191" title="Lien vers cette section de la page"><hr id="hr-191" /></a>

<blockquote lang="en">
<p>The modern tech company or capitalistic enterprise is taking cues from fascism and dictators in how they introduce a small piece of controversy, like a testing of the waters. Wait for an “overreaction” by the masses/their audience/core users, wait for that to burnout and normalize, before flooding the zone with too much to fight or argue with all at once. <mark>This is the same way fascism causes burnout</mark> and complacency and feelings of helplessness, like there’s nothing to be done to fight the&nbsp;thing.</p>
<p>This is what is being done with&nbsp;AI.</p>
<p><cite><em><a data-link-domain="micro.anniegreens.lol" href="https://micro.anniegreens.lol/2024/05/06/ive-had-this.html" hreflang="en"
title="Consultation de l’article (anglais)">I’ve had this thought but never put it into words.</a>
<a href="/david/cache/2024/54ee1030f6fef778ec10e59726bc5731/" hreflang="en"
data-tippy data-description="The modern tech company or capitalistic enterprise is taking …"
data-source="https://micro.anniegreens.lol/2024/05/06/ive-had-this.html"
data-date="2024-06-24"
data-favicon="https://micro.blog/anniegreens/favicon.png"
data-domain="micro.anniegreens.lol"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>À relire dans un contexte d’élections&nbsp;#OhWait.</p>
<a href="#hr-192" title="Lien vers cette section de la page"><hr id="hr-192" /></a>

<blockquote>
<p>L’une des grandes peurs entourant le déploiement des systèmes d’intelligence artificielle (IA) concerne ses potentielles «&nbsp;dérives&nbsp;», quand celle-ci pourrait «&nbsp;déraper&nbsp;». Sauf que, rappelle Ollivier Dyens, l’humanité n’a pas eu besoin de l’IA pour commettre des atrocités – camps de concentration, bombe atomique, massacres à la machette et à la baïonnette, etc. <em>Pourquoi devrions-nous avoir davantage peur de&nbsp;l’IA&#8239;?</em></p>
<p>L’intelligence artificielle, en tant que reflet de «&nbsp;nous-mêmes&nbsp;», pourrait en fait nous servir de miroir, à nous faire voir ce qui nous caractérise&#8239; (en tant qu’êtres humains, individuellement et collectivement), <mark>à nous montrer nos propres biais – et en particulier ceux que nous n’arrivons pas à discerner&nbsp;nous-mêmes.</mark></p>
<p><cite><em><a data-link-domain="lobrassard.net" href="https://www.lobrassard.net/carnet/2024-06-14-idees-recues-ecole-ete-humanites-numeriques.html" hreflang="fr"
title="Consultation de l’article">Cinq idées reçues lors de l’école d’été sur les humanités numériques</a>
<a href="/david/cache/2024/92ca1fc6eb390997db6b76afaf742d63/" hreflang="fr"
data-tippy data-description="Carnet de recherche de Louis-Olivier Brassard."
data-source="https://www.lobrassard.net/carnet/2024-06-14-idees-recues-ecole-ete-humanites-numeriques.html"
data-date="2024-06-24"
data-favicon="data:;base64,iVBORw0KGgo="
data-domain="lobrassard.net"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>Compte-tenu de la façon dont sont entraînés ces LLM, la démonstration de ces biais se ferait en les accentuant… ce qui aurait potentiellement pour effet de les encourager au&nbsp;final&#8239;?!</p>
<a href="#hr-193" title="Lien vers cette section de la page"><hr id="hr-193" /></a>

<blockquote>
<p>Selon Louise Champoux-Paillé et Anne-Marie Croteau de l’École de gestion John-Molson, Université Concordia, les femmes sont moins intéressées par l’IA que les hommes, donc sont plus à risque de perdre leur emploi dans l’avenir. En fait, est-ce vraiment un manque d’intérêt ou ne serait-ce pas plutôt <mark>la difficulté de se tailler une place parce que les hommes ont la&nbsp;préférence?</mark></p>
<p><cite><em><a data-link-domain="mimo.blog" href="https://mimo.blog/le-panneau-des-prejuges" hreflang="fr"
title="Consultation de l’article">Le panneau des préjugés</a>
<a href="/david/cache/2024/63a6d75aee63c072c6d3b174c918740e/" hreflang="fr"
data-tippy data-description="Selon Louise Champoux-Paillé et Anne-Marie Croteau de l'École de gestion John-Molson, Université Concordia, les femmes sont moins intéres..."
data-source="https://mimo.blog/le-panneau-des-prejuges"
data-date="2024-06-24"
data-favicon="https://i.snap.as/CoWgXgFY.png"
data-domain="mimo.blog"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>En parlant de&nbsp;biais.</p>
<a href="#hr-194" title="Lien vers cette section de la page"><hr id="hr-194" /></a>

<blockquote>
<p>Dire que ChatGPT «&nbsp;hallucine&nbsp;» est un anthropomorphisme&nbsp;: c’est une métaphore, une représentation calquée sur une réalité que nous vivons en tant qu’humains&#8239;; en l’occurrence, on hallucine quand on perçoit quelque chose qui n’est pas vraiment&nbsp;là.</p>
<p>Or la réalité du fonctionnement de ChatGPT, qui est basé sur un grand modèle de langue (large language model, LLM) est très différente&nbsp;: […]</p>
<p>C’est essentiel à comprendre&nbsp;: en tant que programme, <mark>la fonction de ChatGPT n’est pas de nous informer mais de simuler un interlocuteur humain.</mark> Pour cela, il assemble des éléments de langage de manière&nbsp;probabiliste.</p>
<p><cite><em><a data-link-domain="arthurperret.fr" href="https://www.arthurperret.fr/blog/2024-06-21-chatgpt-et-l-indifference-a-la-verite.html" hreflang="fr"
title="Consultation de l’article">ChatGPT et l’indifférence à la vérité</a>
<a href="/david/cache/2024/8b0a0eb43814f315e2b296aa5bdd5eee/" hreflang="fr"
data-tippy data-description="Site web d’Arthur Perret, enseignant-chercheur en SIC."
data-source="https://www.arthurperret.fr/blog/2024-06-21-chatgpt-et-l-indifference-a-la-verite.html"
data-date="2024-06-24"
data-favicon="https://www.arthurperret.fr/blog/favicon-32x32.png"
data-domain="arthurperret.fr"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>
<p>De l’importance du champ lexical qui entoure ces technologies. Ces outils ne manipulent pas que des mots, ils nous font croire à une nouvelle vérité alors qu’ils n’en ont pas la capacité. Et une partie de l’humanité devient croyante. (Le parallèle avec une religion est&nbsp;assumé.)</p>
<a href="#hr-195" title="Lien vers cette section de la page"><hr id="hr-195" /></a>

<blockquote lang="en">
<p>Don’t let the past steal your&nbsp;present.</p>
<p><cite>Cherríe L. Moraga</cite></p>
</blockquote>
<p>Comment les LLM peuvent-ils nous empêcher de tourner en rond pour aller <a href="/david/stream/2018/04/07/">vers la spirale</a>&#8239;? Je me fais du souci <a data-link-domain="arxiv.org" href="https://arxiv.org/abs/2406.07016">pour la science</a>&nbsp;notamment&nbsp;:</p>

<blockquote lang="en">
<p>Recent large language models (LLMs) can generate and revise text with human-level performance, and have been widely commercialized in systems like ChatGPT. These models come with clear limitations: they can produce inaccurate information, reinforce existing biases, and be easily misused. Yet, many scientists have been using them to assist their scholarly writing. How wide-spread is LLM usage in the academic literature currently? To answer this question, we use an unbiased, large-scale approach, free from any assumptions on academic LLM usage. We study vocabulary changes in 14&nbsp;million PubMed abstracts from 2010-2024, and show how the appearance of LLMs led to an abrupt increase in the frequency of certain style words. <mark>Our analysis based on excess words usage suggests that at least 10% of 2024&nbsp;abstracts were processed with LLMs. This lower bound differed across disciplines, countries, and journals, and was as high as 30% for some PubMed sub-corpora. We show that the appearance of LLM-based writing assistants has had an unprecedented impact in the scientific literature, surpassing the effect of major world events such as the Covid&nbsp;pandemic.</mark></p>
</blockquote>
<p>Avec l’éternel questionnement associé, qui ne date pas&nbsp;d’hier&nbsp;:</p>

<blockquote lang="en">
<p>So we enshrine the idea of intelligence into our computing paradigm when we don’t even know what it means for ourselves. <mark>Are we making computers smarter or ourselves&nbsp;dumber?</mark></p>

<blockquote>
<p>You can’t tell if a machine has gotten smarter or if you’ve just lowered your own standards of intelligence to such a degree that the machine seems&nbsp;smart.</p>
</blockquote>
<p>Prescient.</p>
<p><cite><em><a data-link-domain="blog.jim-nielsen.com" href="https://blog.jim-nielsen.com/2024/notes-from-you-are-not-a-gadget/" hreflang="en"
title="Consultation de l’article (anglais)">Notes From “You Are Not A Gadget”</a>
<a href="/david/cache/2024/b39aef611801e2b15f189e8d02586b88/" hreflang="en"
data-tippy data-description="Writing about the big beautiful mess that is making things for the world wide web."
data-source="https://blog.jim-nielsen.com/2024/notes-from-you-are-not-a-gadget/"
data-date="2024-06-24"
data-favicon="https://blog.jim-nielsen.com/favicon.ico"
data-domain="blog.jim-nielsen.com"
><svg xmlns="http://www.w3.org/2000/svg"
width="24" height="24" viewBox="0 0 24 24" fill="none"
stroke="currentColor" stroke-width="2" stroke-linecap="square"
stroke-linejoin="round"><circle cx="12" cy="12" r="10"></circle>
<path d="M9.09 9a3 3 0 0 1 5.83 1c0 2-3 3-3 3"></path>
<line x1="12" y1="17" x2="12.01" y2="17"></line>
</svg>
<span class="sr-only">[archive]</span></a></em></cite></p>
</blockquote>

<nav>
<p>
<a href="/david/2024/ecriture/"
title="Liste de tous les articles 2024 associés à cette étiquette"
rel="tag">#écriture</a>
<a href="/david/2024/ia/"
title="Liste de tous les articles 2024 associés à cette étiquette"
rel="tag">#IA</a>
<a href="/david/2024/parvenir/"
title="Liste de tous les articles 2024 associés à cette étiquette"
rel="tag">#parvenir</a>
<a href="/david/2024/#tags" title="Liste de toutes les étiquettes 2024">tous ?</a>
</p>
</nav>
<h2>
<a href="/david/2024/03/03/" title="Lien permanent vers cet article">Permanence</a> <time datetime="2024-03-03">3 mars 2024</time>
</h2>

+ 16
- 16
david/blogroll/index.html View File

@@ -174,6 +174,16 @@
</nav>
<p>N’hésitez pas à me contacter si vous ne souhaitez pas figurer dans cette liste.</p>
<h2>Leurs dernières publications</h2>
<dl>
<dt>
<a href="https://thom4.net/2024/06/25/accessibilite/">☕️ Journal : Accessibilité</a>,
25-06-2024
</dt>
<dd>
Je clôture un projet en passant en revue une auto-évaluation d’accessibilité numérique. Pour chaque non-conformité, je mets en place les
— <a href="https://thom4.net/">Thomas Parisot</a>
</dd>
</dl>
<dl>
<dt>
<a href="https://winnielim.org/journal/what-a-physical-notebook-provokes/">what a physical notebook provokes</a>,
@@ -304,16 +314,6 @@
— <a href="https://brr.fyi/">brr (en)</a>
</dd>
</dl>
<dl>
<dt>
<a href="https://thom4.net/2024/06/06/patois-guernesien/">☕️ Journal : Ces prémises sont terre à l'amende</a>,
06-06-2024
</dt>
<dd>
Des panneaux reviennent régulièrement sur les espaces de stationnement de l’île de Guer
— <a href="https://thom4.net/">Thomas Parisot</a>
</dd>
</dl>
<dl>
<dt>
<a href="https://blog.ecologie-politique.eu/post/Sur-quelques-accusations-de-fascisme-envers-le-mouvement-anti-industriel">Sur quelques accusations de fascisme envers le mouvement anti-industriel</a>,
@@ -346,21 +346,21 @@
</dl>
<dl>
<dt>
<a href="https://www.la-grange.net/2024/05/04/sans-nom">non dit</a>,
04-05-2024
<a href="https://www.la-grange.net/2024/05/05/reveries">multiples rêveries</a>,
05-05-2024
</dt>
<dd>
Shinjuku, Japon, 4 mai 2024 Je pense tout le temps, là je te cause tout de suite et en même temps, je m'échappe, je suis dehors en train de réparer ma barrière. — Nos vaches sont jolies parce qu'elles mangent des fleurs, Paul Bedel / Catherine Boivin, urn:isbn:978-2-266-28669-5 Nous sommes passés à côté du pont 無名橋 (prononcer mou-mé-ba-chi). Cela signifie littéralement le « pont sans nom ». La
Okubo, Japon, 5 mai 2024 Les gens de dehors viennent m'entendre leur parler de ma vie mais moi ce que j'aime c'est les entendre parler de la leur. — Nos vaches sont jolies parce qu'elles mangent des fleurs, Paul Bedel / Catherine Boivin, urn:isbn:978-2-266-28669-5 Nous avions reperé un parc que nous voulions découvrir. Sur les chemins désordonnés de nos marches, nous croisons un magasin de gros
— <a href="https://www.la-grange.net/">Karl Dubost</a>
</dd>
</dl>
<dl>
<dt>
<a href="https://www.la-grange.net/2024/05/03/travail">lieu de travail</a>,
03-05-2024
<a href="https://www.la-grange.net/2024/05/04/sans-nom">non dit</a>,
04-05-2024
</dt>
<dd>
Sugamo, Japon, 3 mai 2024 Je suis vieux, je ne sais plus le présent, ni l'instant, ni le lendemain. — Nos vaches sont jolies parce qu'elles mangent des fleurs, Paul Bedel / Catherine Boivin, urn:isbn:978-2-266-28669-5 Les ordinateurs portables et les tablettes ont apporté la mobilité. Tout d'abord pour ceux qui allaient visiter un client lors d'une négociation commerciale ou bien d'une filiale
Shinjuku, Japon, 4 mai 2024 Je pense tout le temps, là je te cause tout de suite et en même temps, je m'échappe, je suis dehors en train de réparer ma barrière. — Nos vaches sont jolies parce qu'elles mangent des fleurs, Paul Bedel / Catherine Boivin, urn:isbn:978-2-266-28669-5 Nous sommes passés à côté du pont 無名橋 (prononcer mou-mé-ba-chi). Cela signifie littéralement le « pont sans nom ». La
— <a href="https://www.la-grange.net/">Karl Dubost</a>
</dd>
</dl>

+ 4
- 3
david/index.html View File

@@ -482,6 +482,7 @@
</style>
<p>Liste des publications récentes en ordre anté-chronologique :</p>
<p>
<a href="/david/2024/06/28/" data-ecriture data-ia data-parvenir title="Étiquettes : écriture, IA, parvenir.">CompAIgnon</a>,
<a href="/david/2024/06/22/" data-biologie data-foret data-laboratoire title="Étiquettes : biologie, forêt, laboratoire.">Jour 2</a>,
<a href="/david/2024/06/21/" data-ecriture data-foret data-introspection title="Étiquettes : écriture, forêt, introspection.">Jour 1</a>,
<a href="/david/2024/06/20/" data-commun data-introspection data-psychologie title="Étiquettes : commun, introspection, psychologie.">Auto-promotion</a>,
@@ -617,7 +618,7 @@
<a href="/david/2024/documentation/" data-tag="documentation" rel="tag">#documentation (4)</a>,
<a href="/david/2024/dystopie/" data-tag="dystopie" rel="tag">#dystopie (5)</a>,
<a href="/david/2024/echanges/" data-tag="echanges" rel="tag">#échanges (5)</a>,
<a href="/david/2024/ecriture/" data-tag="ecriture" rel="tag">#écriture (10)</a>,
<a href="/david/2024/ecriture/" data-tag="ecriture" rel="tag">#écriture (11)</a>,
<a href="/david/2024/enthousiasme/" data-tag="enthousiasme" rel="tag">#enthousiasme (5)</a>,
<a href="/david/2024/equipe/" data-tag="equipe" rel="tag">#équipe (9)</a>,
<a href="/david/2024/evolution/" data-tag="evolution" rel="tag">#évolution (11)</a>,
@@ -625,7 +626,7 @@
<a href="/david/2024/fediverse/" data-tag="fediverse" rel="tag">#fédiverse (1)</a>,
<a href="/david/2024/foret/" data-tag="foret" rel="tag">#forêt (14)</a>,
<a href="/david/2024/gratitude/" data-tag="gratitude" rel="tag">#gratitude (5)</a>,
<a href="/david/2024/ia/" data-tag="ia" rel="tag">#IA (3)</a>,
<a href="/david/2024/ia/" data-tag="ia" rel="tag">#IA (4)</a>,
<a href="/david/2024/identite/" data-tag="identite" rel="tag">#identité (1)</a>,
<a href="/david/2024/introspection/" data-tag="introspection" rel="tag">#introspection (6)</a>,
<a href="/david/2024/laboratoire/" data-tag="laboratoire" rel="tag">#laboratoire (7)</a>,
@@ -635,7 +636,7 @@
<a href="/david/2024/opensource/" data-tag="opensource" rel="tag">#opensource (10)</a>,
<a href="/david/2024/parentalite/" data-tag="parentalite" rel="tag">#parentalité (6)</a>,
<a href="/david/2024/partage/" data-tag="partage" rel="tag">#partage (9)</a>,
<a href="/david/2024/parvenir/" data-tag="parvenir" rel="tag">#parvenir (3)</a>,
<a href="/david/2024/parvenir/" data-tag="parvenir" rel="tag">#parvenir (4)</a>,
<a href="/david/2024/photographie/" data-tag="photographie" rel="tag">#photographie (4)</a>,
<a href="/david/2024/poesie/" data-tag="poesie" rel="tag">#poésie (4)</a>,
<a href="/david/2024/processus/" data-tag="processus" rel="tag">#processus (11)</a>,

+ 100
- 139
david/log/index.xml View File

@@ -6,13 +6,112 @@
<link href="https://larlet.fr/david/" rel="alternate" type="text/html" />
<link href="https://larlet.fr/david/log/" rel="self" />
<id>https://larlet.fr/david/</id>
<updated>2024-06-23T12:00:00+01:00</updated>
<updated>2024-06-28T12:00:00+01:00</updated>
<author>
<name>David Larlet</name>
<uri>https://larlet.fr/david/</uri>
</author>
<rights>Copyright (c) 2004-2024, David Larlet</rights>
<entry xml:lang="fr">
<title type="html">CompAIgnon</title>
<link href="https://larlet.fr/david/2024/06/28/" rel="alternate" type="text/html" />
<updated>2024-06-28T12:00:00+01:00</updated>
<id>https://larlet.fr/david/2024/06/28/</id>
<summary type="html">

&lt;blockquote lang=&quot;en&quot;&gt;
&lt;p&gt;Tech companies big and small sell AI as something that thinks for us. It &lt;em&gt;does&lt;/em&gt; replace thought with statistics—but it is not intelligent. No one knows what the future will bring. &lt;mark&gt;But is a future without thought a better&amp;nbsp;future?&lt;/mark&gt;&lt;/p&gt;
&lt;p&gt;Now, with a tool that might help us think… How about using AI not to think less but &lt;em&gt;more&lt;/em&gt;?&lt;/p&gt;
&lt;p&gt;&lt;cite&gt;&lt;em&gt;&lt;a href=&quot;https://ia.net/topics/turning-the-tables-on-ai&quot;&gt;Turning the Tables on&amp;nbsp;AI&lt;/a&gt;&lt;/em&gt;&lt;/cite&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;Un article qui ne considère pas les &lt;abbr lang=&quot;en&quot; title=&quot;Large Language Model&quot;&gt;LLM&lt;/abbr&gt; comme des machines à écrire mais comme des aides à penser. Ce n’est &lt;a href=&quot;https://larlet.fr/david/2024/01/13/&quot;&gt;toujours pas pour moi&lt;/a&gt; mais j’apprécie cette tentative d’inverser la&amp;nbsp;relation.&lt;/p&gt;
&lt;p&gt;Quelles doutes / confidences serait-on prêt·es à confesser à une IA plus qu’à un humain&amp;#8239;? Qu’est-ce que cela raconterait de nos peurs et&amp;nbsp;insécurités&amp;#8239;?&lt;/p&gt;

&lt;blockquote lang=&quot;en&quot;&gt;
&lt;p&gt;The people who are most confident AI can replace writers are the ones who think writing is&amp;nbsp;typing.&lt;/p&gt;
&lt;p&gt;&lt;cite&gt;Andrew Ti sur&amp;nbsp;X&lt;/cite&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;hr /&gt;

&lt;blockquote lang=&quot;en&quot;&gt;
&lt;p&gt;Trust is a precious commodity. &lt;mark&gt;It takes a long time to build trust.&lt;/mark&gt; It takes a short time to destroy&amp;nbsp;it.&lt;/p&gt;
&lt;p&gt;I am honestly astonished that so many companies don’t seem to realise what they’re&amp;nbsp;destroying.&lt;/p&gt;
&lt;p&gt;&lt;cite&gt;&lt;em&gt;&lt;a href=&quot;https://adactio.com/journal/21160&quot;&gt;Adactio: Journal-Trust&lt;/a&gt;&lt;/em&gt;&lt;/cite&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;Lorsque la confiance est perdue avant même d’avoir vraiment été gagnée. &lt;a href=&quot;https://blog.kagi.com/what-is-next-for-kagi#9&quot;&gt;Coucou Kagi&lt;/a&gt;. Et peut-être que c’est une bonne chose de ne pas se sentir loyal envers une marque / entreprise en fait&amp;#8239;? Profit et confiance font rarement bon&amp;nbsp;ménage.&lt;/p&gt;

&lt;blockquote lang=&quot;en&quot;&gt;
&lt;p&gt;Apple’s been big on touting their environmental record in past presentations but left it out of this one. &lt;mark&gt;Maybe it’s hard to hype fancy autocorrect&lt;/mark&gt; when we’re spinning carbon-intensive power plants back up to power&amp;nbsp;it.&lt;/p&gt;
&lt;p&gt;Less privacy. More environmental impact. More hype. &lt;em&gt;Cool.&lt;/em&gt;&lt;/p&gt;
&lt;p&gt;More than anything it all goes to show that the one thing you can count on companies to do over the long term is disappoint&amp;nbsp;you.&lt;/p&gt;
&lt;p&gt;&lt;cite&gt;&lt;em&gt;&lt;a href=&quot;https://coryd.dev/posts/2024/did-anyone-ask-for-these-ai-features/&quot;&gt;Did anyone ask for these AI features? • Cory&amp;nbsp;Dransfeldt&lt;/a&gt;&lt;/em&gt;&lt;/cite&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;hr /&gt;

&lt;blockquote lang=&quot;en&quot;&gt;
&lt;p&gt;Recently, however, a number of execs and so-called “thought leaders” in tech seem to have genuinely convinced themselves that generative AI is on the verge of replacing all the work done by junior engineers. I have read so many articles about how junior engineering work is being automated out of existence, or that the need for junior engineers is shriveling up. It has officially driven me&amp;nbsp;bonkers.&lt;/p&gt;
&lt;p&gt;All of this bespeaks a deep misunderstanding about what engineers actually do. &lt;mark&gt;By not hiring and training up junior engineers, we are cannibalizing our own future.&lt;/mark&gt; We need to &lt;em&gt;stop doing that&lt;/em&gt;.&lt;/p&gt;
&lt;p&gt;&lt;cite&gt;&lt;em&gt;&lt;a href=&quot;https://stackoverflow.blog/2024/06/10/generative-ai-is-not-going-to-build-your-engineering-team-for-you/&quot;&gt;Generative AI Is Not Going To Build Your Engineering Team For&amp;nbsp;You&lt;/a&gt;&lt;/em&gt;&lt;/cite&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;C’est l’une de mes réflexions actuelles pour une future activité qui inclurait de la transmission / montée en compétence technique. J’ai l’impression de pouvoir apporter des choses dans le domaine et les personnes que l’on appelle «&amp;nbsp;junior&amp;nbsp;» galèrent pour trouver du boulot alors qu’elles sont déjà&amp;nbsp;capables.&lt;/p&gt;
&lt;hr /&gt;

&lt;blockquote lang=&quot;en&quot;&gt;
&lt;p&gt;The modern tech company or capitalistic enterprise is taking cues from fascism and dictators in how they introduce a small piece of controversy, like a testing of the waters. Wait for an “overreaction” by the masses/their audience/core users, wait for that to burnout and normalize, before flooding the zone with too much to fight or argue with all at once. &lt;mark&gt;This is the same way fascism causes burnout&lt;/mark&gt; and complacency and feelings of helplessness, like there’s nothing to be done to fight the&amp;nbsp;thing.&lt;/p&gt;
&lt;p&gt;This is what is being done with&amp;nbsp;AI.&lt;/p&gt;
&lt;p&gt;&lt;cite&gt;&lt;em&gt;&lt;a href=&quot;https://micro.anniegreens.lol/2024/05/06/ive-had-this.html&quot;&gt;I’ve had this thought but never put it into&amp;nbsp;words.&lt;/a&gt;&lt;/em&gt;&lt;/cite&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;À relire dans un contexte d’élections&amp;nbsp;#OhWait.&lt;/p&gt;
&lt;hr /&gt;

&lt;blockquote&gt;
&lt;p&gt;L’une des grandes peurs entourant le déploiement des systèmes d’intelligence artificielle (IA) concerne ses potentielles «&amp;nbsp;dérives&amp;nbsp;», quand celle-ci pourrait «&amp;nbsp;déraper&amp;nbsp;». Sauf que, rappelle Ollivier Dyens, l’humanité n’a pas eu besoin de l’IA pour commettre des atrocités – camps de concentration, bombe atomique, massacres à la machette et à la baïonnette, etc. &lt;em&gt;Pourquoi devrions-nous avoir davantage peur de&amp;nbsp;l’IA&amp;#8239;?&lt;/em&gt;&lt;/p&gt;
&lt;p&gt;L’intelligence artificielle, en tant que reflet de «&amp;nbsp;nous-mêmes&amp;nbsp;», pourrait en fait nous servir de miroir, à nous faire voir ce qui nous caractérise&amp;#8239; (en tant qu’êtres humains, individuellement et collectivement), &lt;mark&gt;à nous montrer nos propres biais – et en particulier ceux que nous n’arrivons pas à discerner&amp;nbsp;nous-mêmes.&lt;/mark&gt;&lt;/p&gt;
&lt;p&gt;&lt;cite&gt;&lt;em&gt;&lt;a href=&quot;https://www.lobrassard.net/carnet/2024-06-14-idees-recues-ecole-ete-humanites-numeriques.html&quot;&gt;Cinq idées reçues lors de l’école d’été sur les humanités&amp;nbsp;numériques&lt;/a&gt;&lt;/em&gt;&lt;/cite&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;Compte-tenu de la façon dont sont entraînés ces LLM, la démonstration de ces biais se ferait en les accentuant… ce qui aurait potentiellement pour effet de les encourager au&amp;nbsp;final&amp;#8239;?!&lt;/p&gt;
&lt;hr /&gt;

&lt;blockquote&gt;
&lt;p&gt;Selon Louise Champoux-Paillé et Anne-Marie Croteau de l’École de gestion John-Molson, Université Concordia, les femmes sont moins intéressées par l’IA que les hommes, donc sont plus à risque de perdre leur emploi dans l’avenir. En fait, est-ce vraiment un manque d’intérêt ou ne serait-ce pas plutôt &lt;mark&gt;la difficulté de se tailler une place parce que les hommes ont la&amp;nbsp;préférence?&lt;/mark&gt;&lt;/p&gt;
&lt;p&gt;&lt;cite&gt;&lt;em&gt;&lt;a href=&quot;https://mimo.blog/le-panneau-des-prejuges&quot;&gt;Le panneau des&amp;nbsp;préjugés&lt;/a&gt;&lt;/em&gt;&lt;/cite&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;En parlant de&amp;nbsp;biais.&lt;/p&gt;
&lt;hr /&gt;

&lt;blockquote&gt;
&lt;p&gt;Dire que ChatGPT «&amp;nbsp;hallucine&amp;nbsp;» est un anthropomorphisme&amp;nbsp;: c’est une métaphore, une représentation calquée sur une réalité que nous vivons en tant qu’humains&amp;#8239;; en l’occurrence, on hallucine quand on perçoit quelque chose qui n’est pas vraiment&amp;nbsp;là.&lt;/p&gt;
&lt;p&gt;Or la réalité du fonctionnement de ChatGPT, qui est basé sur un grand modèle de langue (large language model, LLM) est très différente&amp;nbsp;: […]&lt;/p&gt;
&lt;p&gt;C’est essentiel à comprendre&amp;nbsp;: en tant que programme, &lt;mark&gt;la fonction de ChatGPT n’est pas de nous informer mais de simuler un interlocuteur humain.&lt;/mark&gt; Pour cela, il assemble des éléments de langage de manière&amp;nbsp;probabiliste.&lt;/p&gt;
&lt;p&gt;&lt;cite&gt;&lt;em&gt;&lt;a href=&quot;https://www.arthurperret.fr/blog/2024-06-21-chatgpt-et-l-indifference-a-la-verite.html&quot;&gt;ChatGPT et l’indifférence à la&amp;nbsp;vérité&lt;/a&gt;&lt;/em&gt;&lt;/cite&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;De l’importance du champ lexical qui entoure ces technologies. Ces outils ne manipulent pas que des mots, ils nous font croire à une nouvelle vérité alors qu’ils n’en ont pas la capacité. Et une partie de l’humanité devient croyante. (Le parallèle avec une religion est&amp;nbsp;assumé.)&lt;/p&gt;
&lt;hr /&gt;

&lt;blockquote lang=&quot;en&quot;&gt;
&lt;p&gt;Don’t let the past steal your&amp;nbsp;present.&lt;/p&gt;
&lt;p&gt;&lt;cite&gt;Cherríe L. Moraga&lt;/cite&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;Comment les LLM peuvent-ils nous empêcher de tourner en rond pour aller &lt;a href=&quot;https://larlet.fr/david/stream/2018/04/07/&quot;&gt;vers la spirale&lt;/a&gt;&amp;#8239;? Je me fais du souci &lt;a href=&quot;https://arxiv.org/abs/2406.07016&quot;&gt;pour la science&lt;/a&gt;&amp;nbsp;notamment&amp;nbsp;:&lt;/p&gt;

&lt;blockquote lang=&quot;en&quot;&gt;
&lt;p&gt;Recent large language models (LLMs) can generate and revise text with human-level performance, and have been widely commercialized in systems like ChatGPT. These models come with clear limitations: they can produce inaccurate information, reinforce existing biases, and be easily misused. Yet, many scientists have been using them to assist their scholarly writing. How wide-spread is LLM usage in the academic literature currently? To answer this question, we use an unbiased, large-scale approach, free from any assumptions on academic LLM usage. We study vocabulary changes in 14&amp;nbsp;million PubMed abstracts from 2010-2024, and show how the appearance of LLMs led to an abrupt increase in the frequency of certain style words. &lt;mark&gt;Our analysis based on excess words usage suggests that at least 10% of 2024&amp;nbsp;abstracts were processed with LLMs. This lower bound differed across disciplines, countries, and journals, and was as high as 30% for some PubMed sub-corpora. We show that the appearance of LLM-based writing assistants has had an unprecedented impact in the scientific literature, surpassing the effect of major world events such as the Covid&amp;nbsp;pandemic.&lt;/mark&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;Avec l’éternel questionnement associé, qui ne date pas&amp;nbsp;d’hier&amp;nbsp;:&lt;/p&gt;

&lt;blockquote lang=&quot;en&quot;&gt;
&lt;p&gt;So we enshrine the idea of intelligence into our computing paradigm when we don’t even know what it means for ourselves. &lt;mark&gt;Are we making computers smarter or ourselves&amp;nbsp;dumber?&lt;/mark&gt;&lt;/p&gt;

&lt;blockquote&gt;
&lt;p&gt;You can’t tell if a machine has gotten smarter or if you’ve just lowered your own standards of intelligence to such a degree that the machine seems&amp;nbsp;smart.&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;Prescient.&lt;/p&gt;
&lt;p&gt;&lt;cite&gt;&lt;em&gt;&lt;a href=&quot;https://blog.jim-nielsen.com/2024/notes-from-you-are-not-a-gadget/&quot;&gt;Notes From “You Are Not A&amp;nbsp;Gadget”&lt;/a&gt;&lt;/em&gt;&lt;/cite&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;nav&gt;&lt;p&gt;&lt;a href=&quot;https://larlet.fr/david/2024/ecriture/&quot;&gt;#écriture&lt;/a&gt; &lt;a href=&quot;https://larlet.fr/david/2024/ia/&quot;&gt;#IA&lt;/a&gt; &lt;a href=&quot;https://larlet.fr/david/2024/parvenir/&quot;&gt;#parvenir&lt;/a&gt;&lt;/p&gt;&lt;/nav&gt;&lt;hr/&gt;&lt;p&gt;&lt;a href=&quot;mailto:david@larlet.fr&quot;&gt;Réagir ?&lt;/a&gt;&lt;/p&gt;</summary>
</entry>
<entry xml:lang="fr">
<title type="html">Jour 2</title>
<link href="https://larlet.fr/david/2024/06/22/" rel="alternate" type="text/html" />
@@ -1154,142 +1253,4 @@ L’aube viendra dans sa mârde&amp;nbsp;blanche.&lt;/p&gt;
&lt;nav&gt;&lt;p&gt;&lt;a href=&quot;https://larlet.fr/david/2024/commun/&quot;&gt;#commun&lt;/a&gt; &lt;a href=&quot;https://larlet.fr/david/2024/equipe/&quot;&gt;#équipe&lt;/a&gt; &lt;a href=&quot;https://larlet.fr/david/2024/protopie/&quot;&gt;#protopie&lt;/a&gt;&lt;/p&gt;&lt;/nav&gt;&lt;hr/&gt;&lt;p&gt;&lt;a href=&quot;mailto:david@larlet.fr&quot;&gt;Réagir ?&lt;/a&gt;&lt;/p&gt;</summary>
</entry>
<entry xml:lang="fr">
<title type="html">GPX Viewer</title>
<link href="https://larlet.fr/david/2024/03/26/" rel="alternate" type="text/html" />
<updated>2024-03-26T12:00:00+01:00</updated>
<id>https://larlet.fr/david/2024/03/26/</id>
<summary type="html">
&lt;p&gt;&lt;a href=&quot;https://larlet.fr/david/2024/03/25/&quot;&gt;Suite de mes expérimentations&lt;/a&gt; de la veille à la fois en cartographie et en &lt;em&gt;web components&lt;/em&gt;. Je me suis demandé s’il était possible de faire un composant qui ne dépende pas de uMap pour afficher une trace GPX. Le fait d’avoir passé une heure à trouver la bonne &lt;a href=&quot;https://developer.mozilla.org/en-US/docs/Web/HTTP/CSP&quot;&gt;CSP&lt;/a&gt; pour arriver à afficher une carte m’a d’une certaine manière motivé (c’était une journée&amp;nbsp;galère).&lt;/p&gt;
&lt;p&gt;Il se trouve qu’il existe &lt;a href=&quot;https://github.com/mpetazzoni/leaflet-gpx&quot;&gt;leaflet-gpx&lt;/a&gt; qui fait exactement ce que je voulais. Il ne me restait «&amp;nbsp;plus qu’à&amp;nbsp;» en faire un composant web, ce que j’avais déjà &lt;a href=&quot;https://gitlab.com/umap-project/leaflet-webcomponents/&quot;&gt;fait par ailleurs&lt;/a&gt;&amp;nbsp;:&lt;/p&gt;
&lt;gpx-viewer data-height=&quot;500px&quot; data-width=&quot;800px&quot;&gt;
&lt;p&gt;
Vous devriez voir s’afficher une carte de mon « Grand Tour de la forêt de Ouareau »,
qui contient &lt;a data-gpx href=&quot;https://larlet.fr/static/david/2024/grand_tour_de_la_foret_de_ouareau.gpx&quot;&gt;cette trace GPX&lt;/a&gt;,
centrée sur &lt;span data-latitude&gt;46.2117&lt;/span&gt;, &lt;span data-longitude&gt;-73.9335&lt;/span&gt;
avec un zoom de &lt;span data-zoom&gt;12&lt;/span&gt;.
Il est probable que cela ne s’exécute pas dans un agrégateur par exemple.
&lt;/p&gt;
&lt;/gpx-viewer&gt;

&lt;script type=&quot;module&quot;&gt;
import * as L from &#x27;/static/david/2024/leaflet.1.9.4/leaflet.1.9.4.js&#x27;
window.L = L // Hack for leaflet-gpx, youpi.
&lt;/script&gt;
&lt;script type=&quot;module&quot; nonce=&quot;oembed-web-component&quot;&gt;
class GPXViewer extends HTMLElement {
static tagName = &#x27;gpx-viewer&#x27;

static register(tagName, registry) {
if(!registry &amp;&amp; (&#x27;customElements&#x27; in globalThis)) {
registry = globalThis.customElements
}
registry?.define(tagName || this.tagName, this)
}

#attachCSS(path) {
const linkElement = document.createElement(&#x27;link&#x27;)
linkElement.setAttribute(&#x27;rel&#x27;, &#x27;stylesheet&#x27;)
linkElement.setAttribute(&#x27;href&#x27;, path)
this.shadowRoot.appendChild(linkElement)
}

#computeDimensions(mapContainer) {
// There has to be a better way but I feel lazy tonight.
let height = this.dataset.height
let width = this.dataset.width
// Size is in px so we strip these chars and convert to int.
const heightValue = Number(height.slice(0, -2))
const widthValue = Number(width.slice(0, -2))
const mediaQueryMiddle = window.matchMedia(`(max-width: ${widthValue}px)`)
const mediaQuerySmall = window.matchMedia(`(max-width: ${widthValue / 2}px)`)
if (mediaQueryMiddle.matches) {
height = `${heightValue / 2}px`
width = `${widthValue / 2}px`
}
if (mediaQuerySmall.matches) {
height = `${heightValue / 3}px`
width = `${widthValue / 3}px`
}
mapContainer.style.height = height
mapContainer.style.width = width
}

#createMapContainer() {
const mapContainer = document.createElement(&#x27;div&#x27;)
this.#computeDimensions(mapContainer)
this.shadowRoot.appendChild(mapContainer)
return mapContainer
}

#createMap(mapContainer) {
const map = L.map(mapContainer).setView(
[
this.querySelector(&#x27;[data-latitude]&#x27;).textContent,
this.querySelector(&#x27;[data-longitude]&#x27;).textContent,
],
this.querySelector(&#x27;[data-zoom]&#x27;).textContent
)
L.tileLayer(&#x27;https://tile.openstreetmap.org/{z}/{x}/{y}.png&#x27;, {
attribution:
&#x27;&amp;copy; &lt;a href=&quot;https://www.openstreetmap.org/copyright&quot;&gt;OpenStreetMap&lt;/a&gt; contributors&#x27;,
}).addTo(map)
return map
}

#attachGPX(map) {
const gpxUrl = this.querySelector(&#x27;[data-gpx]&#x27;).href
new GPX(gpxUrl, {
async: true,
marker_options: {
startIconUrl: &#x27;/static/david/2024/leaflet-gpx.1.7.0-custom/pin-icon-start.png&#x27;,
endIconUrl: &#x27;/static/david/2024/leaflet-gpx.1.7.0-custom/pin-icon-end.png&#x27;,
shadowUrl: &#x27;/static/david/2024/leaflet-gpx.1.7.0-custom/pin-shadow.png&#x27;
}
}).on(&#x27;loaded&#x27;, (e) =&gt; {
map.fitBounds(e.target.getBounds())
}).addTo(map)
}

constructor() {
super()
this.attachShadow({ mode: &#x27;open&#x27; })
}

async connectedCallback() {
this.#attachCSS(&#x27;/static/david/2024/leaflet.1.9.4/leaflet.css&#x27;)
const mapContainer = this.#createMapContainer()
const map = this.#createMap(mapContainer)
this.#attachGPX(map)
}

}

import GPX from &#x27;/static/david/2024/leaflet-gpx.1.7.0-custom/gpx.1.7.0-custom.js&#x27;

GPXViewer.register()
&lt;/script&gt;

&lt;p&gt;Alors en fait, comme rien n’est jamais simple en JS, il a fallu que j’adapte le plugin qui n’était pas compatible avec les modules JS et que je fasse des galipettes pour que ça finisse par tomber en marche&amp;nbsp;🤸. Cet écosystème est merveilleux (quel métier&amp;#8239;!). J’ai quand même &lt;a href=&quot;https://github.com/mpetazzoni/leaflet-gpx/issues/153&quot;&gt;remonté le problème&lt;/a&gt;.&lt;/p&gt;
&lt;p&gt;Au passage, inspiré par &lt;a href=&quot;https://blog.k-nut.eu/leaflet-microdata-html-webcomponent&quot;&gt;le travail de Knut Hühne&lt;/a&gt; sur la sémantique des données d’une carte, je me suis demandé si j’allais définir un &lt;a href=&quot;https://schema.org/itinerary&quot;&gt;itinerary&lt;/a&gt; pour un &lt;a href=&quot;https://schema.org/Trip&quot;&gt;Trip&lt;/a&gt; avec des &lt;a href=&quot;https://schema.org/GeoCoordinates&quot;&gt;GeoCoordinates&lt;/a&gt; mais ça m’a fait tirer un fil beaucoup trop long. Je garde l’idée sous le coude &lt;a href=&quot;https://umap-project.gitlab.io/leaflet-webcomponents/&quot;&gt;pour mes propres recherches&lt;/a&gt; dans le domaine cela&amp;nbsp;dit.&lt;/p&gt;
&lt;p&gt;Un composant de plus, je ne suis pas très satisfait de celui-ci car j’avais l’espoir d’arriver à quelque chose de facilement réutilisable. J’aurais au moins commencé à mettre les doigts dans le XML du format GPX. Il est possible de définir plusieurs segments au sein d’une même trace. Il peut y avoir pas mal de métadonnées, notamment de mise en forme de la trace mais aussi de caractéristiques (biologiques, physiques, etc).&lt;/p&gt;
&lt;hr /&gt;

&lt;blockquote lang=&quot;en&quot;&gt;
&lt;p&gt;The fact is that we can’t rely on any single website to hold the whole world’s knowledge, because it can be corrupted sooner or later. The only solution is a distributed architecture, with many smaller websites connecting with each other and sharing information. This is where ActivityPub comes in, the protocol used by Mastodon, Lemmy, Peertube and many other federated social media&amp;nbsp;projects.&lt;/p&gt;
&lt;p&gt;I have worked on Lemmy for the past four years, bringing it from a prototype to a fully functional Reddit alternative. I wrote the entire federation code and became very familiar with the protocol. &lt;mark&gt;I realized that the same technology easily be used to create a federated encyclopedia.&lt;/mark&gt; As no one else took up such a project, I finally decided to do it on my own and create Ibis. Thanks to my previous experience with the tech stack and the ActivityPub library I created, I was able to complete a proof of concept in a relatively short time of four&amp;nbsp;months.&lt;/p&gt;
&lt;p&gt;&lt;cite&gt;&lt;em&gt;&lt;a href=&quot;https://ibis.wiki/article/Announcing_Ibis,_the_federated_Wikipedia_Alternative@ibis.wiki&quot;&gt;Announcing Ibis, the federated Wikipedia&amp;nbsp;Alternative&lt;/a&gt;&lt;/em&gt;&lt;/cite&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;Wikipedia décentralisé, je dis oui&amp;#8239;! Merci &lt;a href=&quot;https://alexsirac.com/activitypub-powered-wikis/&quot;&gt;Alex&lt;/a&gt;.&lt;/p&gt;
&lt;p&gt;C’est important pour &lt;a href=&quot;https://larlet.fr/david/2024/02/29/&quot;&gt;diverses&lt;/a&gt; &lt;a href=&quot;https://larlet.fr/david/2024/03/07/&quot;&gt;raisons&lt;/a&gt;.&lt;/p&gt;
&lt;hr /&gt;

&lt;blockquote lang=&quot;en&quot;&gt;
&lt;p&gt;I think it’s time to admit that my hobby is buying stuff for my new&amp;nbsp;hobby.&lt;/p&gt;
&lt;p&gt;&lt;cite&gt;&lt;em&gt;Chris Hallbeck&lt;/em&gt;, &lt;a href=&quot;https://mastodon.social/@Chrishallbeck/112153815963114685&quot;&gt;sur&amp;nbsp;masto&lt;/a&gt;&lt;/cite&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;&lt;em&gt;Touché.&lt;/em&gt;&lt;/p&gt;
&lt;nav&gt;&lt;p&gt;&lt;a href=&quot;https://larlet.fr/david/2024/apprentissage/&quot;&gt;#apprentissage&lt;/a&gt; &lt;a href=&quot;https://larlet.fr/david/2024/technique/&quot;&gt;#technique&lt;/a&gt; &lt;a href=&quot;https://larlet.fr/david/2024/web/&quot;&gt;#web&lt;/a&gt;&lt;/p&gt;&lt;/nav&gt;&lt;hr/&gt;&lt;p&gt;&lt;a href=&quot;mailto:david@larlet.fr&quot;&gt;Réagir ?&lt;/a&gt;&lt;/p&gt;</summary>
</entry>
</feed>

+ 12
- 0
david/recherche/index.html
File diff suppressed because it is too large
View File


Loading…
Cancel
Save