Do we make machines that look like humans or humans that look like machines?

English version

In recent months, there has been a lot of talk about Artificial Intelligence. In a nice Linkedin post that I strongly recommended, Melanie Mitchell, professor at the Santa Fe Institute, discusses some criteria to understand whether LLMs (Large Language Models) have reasoning skills as "emergent properties", i.e. properties of complex structures that cannot be explained in terms of the behavior of the components. Reasoning as an "emergent property of complexity" creates many fears because it leads to the belief that machines may one day take control of human affairs. An emergent property is not controllable, it is a form of self-organization and therefore it is feared. It is feared that we are going to create human-like machines that can then overtake and enslave us or simply throw us away.

Today, however, there is a dual problem. We are dehumanizing humans by creating people who act like machines, like biological algorithms. In the obsessive pursuit of the profit of a few, we are creating societies guided by a logic of economic rationality to which human aspects are extraneous. In these societies, people become accustomed to thinking like computers along with computers. You change a small performance parameter and hundreds of people lose their jobs or can't get medical treatment. But the decision-makers, computers and humans together, are completely insensitive, living in a surreal world.

People and computers are becoming more and more integrated and share the same logic. In large organizations, in large government agencies, you find more and more people inserted into a decision-making fabric made up of men and machines to which the human aspects are foreign. Organizations are designed to facilitate the integration of workers with IT systems, excluding any human element. The information flows and decisions that people have to make are expressly studied so that they integrate with the machines. In this way, people become more and more replaceable by artificial intelligence, because in fact they are already algorithms.

In debates and lectures we always hear statements that man has emotions, a sensitivity and a consciousness that the machine can never have. This is true, at least with the computers we have now. But the problem lies elsewhere: humans are training themselves to eliminate the emotional aspects and to behave like machines. We live more and more in precariousness; personal disaster is just around the corner but no one cares.

We are a system where people don't matter. In his book The Vanishing Middle Class, Peter Temin, an economic historian, argues that America has become a dual country, made up of two economies, the rich and the poor, with little means of communication. Temin bases his conclusions on empirical data and a well-known model of economic duality. Anyone worried? No, this duality, it is thought, is economic rationality. Europe is no different.

This total insensitivity to people, to social aspects, makes it very easy for machines, computers, artificial intelligence to spread. The more people resemble machines, the more replaceable they are. This is obviously an economically suicidal strategy in the long run. The image of a society of self-sufficient machines that use humans as slaves, or simply ignore them, is in no way realistic. Instead, we are really moving towards an extremely impoverished society, unable to react.

In his book God & Golem, inc. the great mathematician Norbert Wiener, father of cybernetics, discusses the ethical-religious aspects of machines that learn and reproduce themselves and concludes with a biblical warning: "render unto man the things which are man's and unto the computer the things which are the computer's". I fear that his warning is truer today than ever.

Italian Version

Facciamo macchine che assomigliano all’uomo o uomini che assomigliano alle macchine?

In questi ultimi mesi si fa un gran parlare di Intelligenze Artificiali. In un bel Post Linkedin che ho fortemente consigliato, Melanie Mitchell, professore al Santa Fe Institute, discute di alcuni criteri per capire se gli LLM (Large Language Models) abbiano capacità di ragionamento come “proprietà emergenti”, cioè proprietà di strutture complesse che non si sa spiegare in termini del comportamento dei componenti. Il ragionamento come “proprietà emergente della complessità” crea molti timori perché porta a credere che le macchine possano un giorno prendere il controllo degli affari umani. Una proprietà emergente non è controllabile, è una forma di auto-organizzazione e per questo è temuta. Si teme che andiamo a creare macchine simili agli uomini che possano poi superarli ed asservirli o semplicemente gettarli via.

Oggi però esiste un problema speculare. Stiamo deumanizzando gli uomini creando persone che agiscono come macchine, come algoritmi biologici. Nella ricerca ossessiva del profitto di pochissimi stiamo creando società guidate da una logica di razionalità economica a cui gli aspetti umani sono estranei. In queste società, le persone si abituano a ragionare come computer insieme ai computer. Cambi un piccolo parametro di rendimento e centinaia di persone perdono il lavoro o non possono curarsi. Ma gli autori delle decisioni, computer e uomini assieme, sono completamente insensibili, vivono in un mondo surreale.

Persone e computer diventano sempre più integrati e condividono la stessa logica. Nelle grandi organizzazioni, nelle grandi agenzie dei governi, trovate sempre più persone inserite in un tessuto decisionale fatto di uomini e macchine a cui gli aspetti umani sono estranei. Le organizzazioni sono studiate per facilitare l’integrazione dei lavoratori con i sistemi informatici, escludendo qualunque elemento umano. Si studiano espressamente i flussi informativi e le decisioni che le persone devono prendere in modo che si integrino con le macchine. In questo modo le persone diventano sempre più sostituibili dalle intelligenze artificiali, perché in effetti sono già degli algoritmi.

Nei dibattiti e nelle conferenze si sentono sempre affermazioni che l’uomo ha emozioni, una sensibilità ed una coscienza che la macchina non potrà mai avere. Questo è vero, almeno con i computer che conosciamo adesso. Ma il problema risiede altrove: gli uomini si stanno allenando ad eliminare gli aspetti emozionali e a comportarsi come macchine. Viviamo sempre di più nella precarietà, il disastro personale è dietro l’angolo ma nessuno se ne preoccupa.

Siamo un sistema in cui le persone non contano nulla. Nel suo libro The Vanishing Middle Class, Peter Temin, uno storico dell’economia, sostiene che l’America è diventata un paese duale, formata da due economie, i ricchi e i poveri, con poche possibilità di comunicazione. Temin basa le sue conclusioni su dati empirici e su un ben noto modello di dualità economica. Qualcuno si preoccupa? No, questa dualità, si pensa, è la razionalità economica. L’Europa non è diversa.

Questa totale insensibilità alle persone, agli aspetti sociali, rende molto facile la diffusione delle macchine, dei computer, delle intelligenze artificiali. Più le persone assomigliano alle macchine più sono sostituibili. Questa è ovviamente una strategia economicamente suicida a lungo. L’immagine di una società di macchine autosufficienti che usano gli uomini come schiavi o, semplicemente li ignorano, non è in nessun modo realistica. Invece stiamo veramente muovendo verso una società estremamente impoverita, incapace di reagire.

Nel suo libro God & Golem, inc. il grande matematico Norbert Wiener, padre della cibernetica discute degli aspetti etico-religiosi delle macchine che apprendono e si riproducono e conclude con un monito di sapore biblico: “render unto man the things which are man's and unto the computer the things which are the computer's”. Temo che il suo monito sia più vero oggi che mai.