Troublant Bernard Stiegler...

En novembre, j'ai lu un court livre de Bernard Stiegler, L'emploi est mort, vive le travail !. On m'avait recommandé de m'intéresser à ce penseur, vu mon intérêt presque obsessionnel pour l'intelligence artificielle, l'automatisation du travail, la singularité technologique, les voitures sans conducteur, etc. Je ne connaissais rien de lui. J'ai choisi ce livre uniquement à cause de sa brièveté (120 pages).

Je me retrouve un peu "frustré" au terme de cette lecture. Stiegler a un language qui correspond peu à ma sensibilité. J'aime les philosophes qui utilisent des mots simples et font des efforts pour rendre leurs idées le plus compréhensibles possible. Mais, ça, c'est mon problème. Ça ne concerne pas le fond de son discours.  

Sur le fond, donc, son discours rejoint a priori le mien.

Je cite : "L’emploi a donc progressivement fait disparaître le travail, depuis un siècle et demi, avec les différentes étapes de la prolétarisation des travailleurs, puis des consommateurs, et maintenant, cet emploi est lui-même en train de disparaître, suite à la généralisation de l’automatisation dans tous les secteurs de l’économie…"

Plus loin : "La robotisation ne peut que nuire à l’emploi, et il n’est pas vrai que les emplois créés par la production des robots compenseront ceux détruits par ces mêmes robots."

A priori toujours, j'adhère donc à son discours, qui, on pourrait le penser naïvement, rejoint celui de Ray Kurzweil, par exemple.

Mais Stiegler semble rejeter les conclusions ultimes de Kurzweil, qui évoquent des scénarios de science-fiction : "[...] je crois qu’à l’époque des études digitales, des spéculations « post-humanistes » et du storytelling transhumaniste (libertarien de droite et extrêmement dangereux), il faut en repenser de part en part les conditions de possibilité [...]".

Au-delà de la forme, le discours de Stiegler est aussi affaibli par le fait que, lorsque Kurzweil passe des centaines de pages à justifier le fait que les machines vont nous remplacer, Stiegler n'explique à nulle part dans son livre comment il arrive à la conclusion que nous allons devoir faire face à une "automatisation dans tous les secteurs de l’économie". Il ne parle à aucun moment de l'histoire de l'informatique, de l'intelligence artificielle, du deep learning, des succès récents dans ce domaine, etc.

On dirait que sa conclusion est plus le résultat d'une observation de la société, une sorte d'extrapolation "évidente", implicite, alors que celle de Kurzweil est issue d'une analyse plus rigoureuse, celle d'un ingénieur, qui ne peut s'empêcher d'enchaîner les graphes.

Ou alors aurait-il fallu que je lise au préalable d'autres livres de Stiegler ? Si oui, lesquels ? Pour moi, un livre doit se suffire à lui-même. A nouveau, j'aime les penseurs qui font des efforts pour se rendre accessibles.

Autre point troublant : même après avoir lu les 120 pages de "L'emploi est mort, vive le travail !", je n'arrive toujours pas à dire clairement si Stiegler pense que l'intelligence artificielle va être capable de faire mieux que l'être humain dans tous les domaines (y compris artistiques, par exemple) ou si, pour lui, seul ce que nous considérons aujourd'hui comme "emploi" est en danger. Ce qui serait une erreur.

Bref, j'ai donné une chance à Bernard Stiegler, qui semble être quelqu'un de très intelligent, mais sa sensibilité, ce qu'il a à dire sur des sujets qui me passionnent, ne me parlent pas. J'aurai au moins essayé...

10 ans

Cela fait dix ans exactement que j'ai publié mon premier article sur ce blog. J'y ai depuis publié 90 articles, dont 60 rien que ces cinq dernières années. A l'époque, Blogger me semblait être un choix raisonnable pour m'exprimer publiquement sur internet. Il y a fort à parier que j'opterais aujourd'hui pour une alternative (Medium, self-hosting, etc.).

Ça n'est qu'en juin 2007, respectivement en février 2008, que j'ai ouvert un compte sur Facebook, respectivement sur Twitter. A l'exception d'une "pause Facebook" de plus de deux ans entre 2014 et 2016, je me suis également beaucoup servi de ces deux réseaux sociaux pour m'exprimer et débattre.

A l'heure actuelle, mon blog est complètement public, indexé par les moteurs de recherche, mais, paradoxalement, c'est l'espace où je me sens le plus libre pour m'exprimer. Noyé dans la masse, dénué de toute dimension de réseau social, il est automatiquement moins visible, moins scruté. Au contraire, sur Facebook, je sais que chacun de mes statuts sera vu en tout cas par quelques dizaines de personnes que je connais. Je me sens donc obligé de peser mes mots, en quelque sorte. Si je ne le fais pas, je sais que je risque de m'exposer à des réactions parfois négatives. Rien d'insurmontable, mais il est parfois usant de débattre, surtout lorsqu'on ne pensait pas provoquer de polémique...

Il y a dix ans, donc, je publiais sur ce blog un résumé d'un livre qui m'avait beaucoup marqué : The Singularity is Near, de Ray Kurzweil. C'est un sujet qui m'intéresse toujours au plus haut point, mais, en dix ans, les choses ont quelque peu changé.

Ray Kurzweil est devenu depuis un peu moins actif, du moins publiquement. A ma connaissance, il n'a publié que deux livres depuis 2006 : Transcend en 2009, ainsi que How to Create a Mind en 2012. Après ce dernier livre, il a été engagé chez Google, en décembre 2012. Quelques articles sortent régulièrement sur son travail dans cette entreprise, mais il est difficile de se faire une idée de la réalité de son travail au quotidien. Ce qui est certain, c'est qu'il semble toujours aussi peu convaincu par l'argument de la chambre chinoise de John Searle...

Parallèlement, le concept de singularité technologique, que Kurzweil a participé à vulgariser, semble véritablement se démocratiser. Il y a quelques semaines, dans un restaurant de campagne, j'entendais deux personnes à une table proche de la nôtre discuter de la singularité, entre deux discussions concernant l'actualité. Il y a dix ans, cela m'aurait beaucoup surpris. De nos jours, cela est devenu parfaitement banal (ou presque).

Il faut dire que l'intelligence artificielle, le machine learning et le deep learning sont en plein essor. Si la recherche dans le domaine de l'intelligence artificielle a régulièrement vécu ce que les chercheurs ont appelé des "hivers de l'intelligence artificielle" (AI winter, en anglais), on a plutôt l'impression en ce moment de vivre des moments de frénésie. Il y a eu les succès médiatiques, comme Watson en 2011 et AlphaGo en 2016, mais aussi des succès grand public, comme les algorithmes de reconnaissance vocale utilisés par Siri, Cortana, Google Now, Amazon Echo et autres. Les algorithmes de reconnaissance faciale, reconnaissance de caractères, tagging automatique de photos, etc. sont également devenus monnaie courante. Et, si j'avais parié à l'époque sur des voitures sans conducteur "qui marchent" en 2024, je ne serais désormais plus étonné de les voir apparaître bien plus tôt.

L'optimisme presque sans limite de Ray Kurzweil a aussi laissé place à une certaine inquiétude : si l'intelligence artificielle peut améliorer notre quotidien, on peut aussi facilement imaginer qu'elle serve à rendre réels les pires scénarios de films de science-fiction. Tant que les robots et les armes autonomes restent sous le contrôle des êtres humains, nous n'avons pas trop de souci à nous faire, mais, en tant qu'ingénieur logiciel, je sais que les bugs et les comportements imprévus sont très difficiles, voire impossibles, à éviter. D'où les avertissements réguliers de personnalités telles que Stephen Hawking, Elon Musk ou Bill Gates : nous devons dès à présent réfléchir à des moyens de nous assurer que l'intelligence artificielle ne se retournera jamais contre nous.

Après l'optimisme et l'excitation, la prudence et la maturité, donc. Je ne sais pas ce que les dix prochaines années nous réservent, mais je suis prêt à parier que le temps finira par donner raison à Kurzweil, qui a pourtant longtemps été considéré comme un utopiste.

Driverless cars and speech recognition that "work"

It all started with a tweet I sent on February 9, 2012 about an article featured on Wired, "Let the Robot Drive: The Autonomous Car of the Future Is Here":

"If you're still not convinced that driver-less cars are almost there: http://ping.fm/PAnrz ("The fact that you’re still driving is a bug")"

To which @avernet replied (noting that "almost" is ambiguous):

"@obruchez Almost here, like voice recognition that works?"

My reply (pinpointing another ambiguity):

"@avernet Define "work" and I'll answer. :) But, more seriously, I think that average voice recognition is way harder than average driving."

A definition of "work" is given:

"@obruchez Let's define "work", very informally, as "you and I use it on a regular basis, and are happy with it"."

I was then asked to predict when speech recognition and driverless cars will be "good enough":

"@obruchez With that, in which year would you predict speech recognition and self-driving car will "work"? #longbets"

This is me thinking out loud:

"@avernet This is tricky. I really feel there's a way bigger gap between "working" speech recognition and "really good" speech recognition..."

"@avernet ...than between "working" self-driving cars and "really good" self-driving cars. Let me think about it."

Finally, here's my prediction:

"@avernet I asked my Magic 8-Ball and here's what I got: speech recognition that "works" -> 2018 and self-driving cars that "work" -> 2024."

My reasoning for speech recognition that works in 2018:

"@obruchez I'd say speech recognition I'd use is just around the corner, but it's been 15 years I say that, so you might be right with 2018."

"@avernet My reasoning exactly ("just around the corner" for years). Plus speech recognition in French is lagging (and that's what I'd need)."

And for driverless cars that work in 2024:

"@obruchez It might be longer for self-driving car. For legal reasons manufacturers won't risk it until they are *much* better than humans."

"@avernet I agree. But we have "working" prototypes right *now*. And humans are really *bad* at driving (>30000 deaths per year in the US!)."

And here's the reason for this blog post (a tweet by @ebruchez):

"@obruchez @avernet We should be tracking those predictions."

So, see you in 2018 for a debate about the meaning of "regular basis" and "happy", and about the reasons why long-term bets are difficult (for more serious examples, see "How My Predictions Are Faring" by Ray Kurzweil). ;-)

Update (August 28, 2012). See the post "Self-driving cars in 2019, report says" on kurzweilai.net. I think I'm being a bit too pessimistic with my prediction (2024).

Update (September 27, 2012). And yet another optimistic article: "Self-driving cars a reality for 'ordinary people' within 5 years, says Google's Sergey Brin" (within 5 years = by 2017, i.e. seven years before 2024 - my prediction).

Update (January 3, 2014). Another more conservative article: "Fully self-driving cars expected by 2030, says forecast" ("Self-driving cars (SDC) that include driver control are expected to hit highways around the globe before 2025 and self-driving “only” cars (only the car drives) are anticipated around 2030").