Soyez comme Pixar, pas comme la NASA

Cela a commencé à 4 heures du matin le 28 mars 1979 à Three Mile Island, en Pennsylvanie. Le réacteur nucléaire fonctionnait presque à pleine puissance lorsqu'un circuit de refroidissement secondaire est tombé en panne et a affecté la température du liquide de refroidissement primaire. Cette forte hausse de température a provoqué l’arrêt automatique du réacteur. Dans la seconde qu'il a fallu pour désactiver le système du réacteur, une soupape de décharge ne s'est pas fermée. Le cœur nucléaire a subi de graves dommages, mais les opérateurs n'ont pas pu diagnostiquer ni gérer l'arrêt inattendu du réacteur dans le feu de l'action.

Le sociologue Charles Perrow a ensuite analysé les raisons de l'accident de Three Mile Island, dans l'espoir d'anticiper d'autres catastrophes à venir. Le résultat fut son livre phare Normal Accidents. Son objectif, dit-il, était de "proposer un cadre permettant de caractériser les systèmes technologiques complexes tels que le trafic aérien, le trafic maritime, les usines chimiques, les barrages et surtout les centrales nucléaires en fonction de leur risque".

L’un des facteurs était la complexité : plus un système comporte de composants et d’interactions, plus il est difficile de résoudre un problème en cas de problème. L’échelle s’accompagne de complexité, qu’il s’agisse de la technologie ou de l’organisation qui la prend en charge. Imaginez que vous dirigez une start-up où tout le monde est assis dans le même loft. D’où vous êtes assis, vous pouvez facilement voir ce qu’ils font tous. Dans une grande organisation, cette visibilité est perdue. Dès qu’un leader ne peut pas voir le fonctionnement interne du système lui-même – dans ce cas, les activités du personnel – la complexité augmente.

Perrow a associé ce type de complexité à des échecs technologiques. À Three Mile Island, les opérateurs ne pouvaient pas simplement marcher jusqu'au cœur et mesurer manuellement la température ou jeter un coup d'œil à l'intérieur pour découvrir qu'il n'y avait pas assez de liquide de refroidissement. De même, les dirigeants d’une grande entreprise ne peuvent pas surveiller chaque employé en permanence sans susciter du ressentiment. Ils doivent s'appuyer sur des indicateurs indirects, tels que les évaluations de performances et les résultats des ventes. Les grandes entreprises s’appuient également sur des technologies de l’information et des chaînes d’approvisionnement complexes.

Un autre facteur, écrit Perrow, était le couplage d'un système : le niveau d'interdépendance entre ses composants. Lorsque les systèmes sont à la fois complexes et étroitement couplés, ils sont plus susceptibles de produire des conséquences négatives inattendues et de devenir incontrôlables.

Perrow n’a pas inclus l’intelligence artificielle (IA) ni même les logiciels parmi les technologies dont il a répertorié les interactions. Mais en utilisant les critères qu'il a exposés concernant le risque technologique, les systèmes d'IA s'inscrivent dans le cadre de Perrow, aux côtés des centrales nucléaires, des missions spatiales et du séquençage de l'ADN. Si un élément ne fonctionne pas comme prévu, des effets en cascade imprévus peuvent se produire qui affectent un système de manière totalement inattendue.

Les systèmes étroitement couplés ont des architectures (technologiques et sociales) qui favorisent l'interdépendance entre leurs composants et souvent l'isolement des connexions extérieures. Cela les rend efficaces et autoprotecteurs mais moins robustes.

En revanche, les systèmes faiblement couplés ont des architectures plus ouvertes et plus diversifiées. Les modifications apportées à un module, une section ou un composant n’affectent guère les autres composants. Chacun fonctionne quelque peu indépendamment des autres. Une architecture faiblement couplée est facile à maintenir et à faire évoluer. Il est également robuste, dans la mesure où les problèmes ne se propagent pas facilement à d'autres parties du système.

Les dirigeants qui dirigent de grandes organisations ont tendance à privilégier un système étroitement couplé. C'est ce qu'ils savent. Ils ont grandi dans leur secteur d’activité en voyant un petit nombre de personnes prendre des décisions qui affectent des millions de personnes. Mais les systèmes étroitement couplés peuvent être plus difficiles à contrôler. Pensez à un sol recouvert de dominos alignés. Lorsque vous en renversez un, il renversera ensuite, en séquence, l’ensemble des dominos – un exemple simple d’un système étroitement couplé. Essayez maintenant de l'arrêter une fois que l'effet domino est en mouvement. C'est beaucoup plus difficile que vous ne le pensez.

Une grande entreprise est également généralement un système étroitement couplé, en particulier par rapport aux petites entreprises et aux détaillants familiaux locaux. Si vous avez une plainte concernant le produit d'un dépanneur, vous pouvez la reprendre et ils la prendront en main, en la traitant d'une manière différente pour chaque client. Ils ont le contrôle de leurs actions. S'ils travaillent dans une grande entreprise ou en franchise, ils sont étroitement liés à l'image de marque et aux procédures de mise à l'échelle de l'entreprise – et les uns aux autres. Ceux qui souhaitent fonctionner différemment des procédures standard doivent s’opposer au réseau étroitement couplé.