2009-01-05
La torture des robots
L'humanité a l'animisme chevillé au corps, et depuis longtemps. Comme j'écrivais en 2007 :
« De nombreux peuples primitifs et pas si primitifs vivaient dans un univers animé, où tout était doté d'une âme. Tout ce qui bougeait, en particulier, était susceptible de se faire attribuer une âme : les animaux (comme leur nom le dit), les plantes, le vent, la rivière, les vagues et tempêtes de la mer, le feu, la foudre et même les tremblements de la terre. Le mouvement était signe de vie. Et la vie rendait possible le mouvement parce qu'il était décidé par une âme. »
Ce qui correspond aussi aux observations de Piaget dans le cas des enfants.
Dans la revue Interaction Studies, Christoph Bartneck et Jun Hu d'Eindhoven ont signé dans le troisième numéro de 2008 un article intitulé « Exploring the abuse of robots ». Ils ont conduit avec des humains et des robots deux expériences inspirées de la célèbre expérience de Stanley Milgram, mais en remplaçant les pseudo-victimes humaines par des robots et en variant le degré d'intelligence apparent des robots. Dans la première variante, les sujets humains se contentaient d'infliger des chocs électriques à des robots ; dans la seconde, ils devaient tuer un robot.
Dans le premier cas, même si les sujets humains auraient témoigné de la compassion pour le pauvre petit robt qui essayait de répondre à leurs questions, ils ont tous accepté d'infliger des chocs électriques de la plus grande intensité disponible, mais, dans quelques cas, il avait fallu que l'expérimentateur exerce son autorité pour les y obliger. Dans le cas d'une victime humaine supposée, dans l'expérience de Milgram, le tiers environ des sujets humains refusent d'aller jusqu'au bout...
Dans le second cas, les deux auteurs testaient à la fois les effets d'un niveau d'intelligence différent de la part du robot, la perception de cette intelligence par les sujets humains et l'intensité de la destruction du robot (combien de coups de marteau avaient été portés pour casser le robot en combien de pièces?). Malheureusement, l'échantillon était réduit, mais les femmes auraient été portées à surestimer, relativement aux hommes, l'intelligence du robot le plus bête. Tandis que les hommes cassaient les robots avec un peu plus de hargne, en produisant plus de pièces... De manière générale, les robots les moins intelligents étaient frappés plus souvent, mais la différence n'était pas statistiquement significative.
Ces expériences étaient, bien entendu, imparfaites. Pour des raisons financières, les robots détruits dans la seconde expérience n'étaient pas très compliqués, démontrant un niveau d'intelligence se rapprochant au mieux de celui démontré par des blattes. De plus, les participants savaient naturellement qu'aucun robot actuel n'est l'équivalent d'un humain ; la projection animiste qu'on peut opérer sur des machines qui parlent et qui bougent de manière apparemment volontaire a ses limites.
Dans ces conditions, même si on sacrifiait dans une expérience future des robots plus complexes, les sujets humains pourraient hésiter à les frapper tant parce que les robots auraient un comportement plus intelligent que parce qu'ils seraient jugés plus coûteux! Néanmoins, ces petites expériences suggèrent, pour l'instant, que la nature fabriquée et simplifiée des robots permet d'évacuer les scrupules qui paralysaient encore un tiers des participants à l'expérience de Milgram. Pour l'instant, tout le monde acceptera de torturer des robots.
Est-ce à dire qu'à Abu Ghraib et ailleurs, on avait persuadé les tortionnaires qu'ils avaient affaire à des robots? Mais ce n'est pas uniquement une question de déshumanisation des victimes — cela, Milgram l'a prouvé il y a quarante ans.
« De nombreux peuples primitifs et pas si primitifs vivaient dans un univers animé, où tout était doté d'une âme. Tout ce qui bougeait, en particulier, était susceptible de se faire attribuer une âme : les animaux (comme leur nom le dit), les plantes, le vent, la rivière, les vagues et tempêtes de la mer, le feu, la foudre et même les tremblements de la terre. Le mouvement était signe de vie. Et la vie rendait possible le mouvement parce qu'il était décidé par une âme. »
Ce qui correspond aussi aux observations de Piaget dans le cas des enfants.
Dans la revue Interaction Studies, Christoph Bartneck et Jun Hu d'Eindhoven ont signé dans le troisième numéro de 2008 un article intitulé « Exploring the abuse of robots ». Ils ont conduit avec des humains et des robots deux expériences inspirées de la célèbre expérience de Stanley Milgram, mais en remplaçant les pseudo-victimes humaines par des robots et en variant le degré d'intelligence apparent des robots. Dans la première variante, les sujets humains se contentaient d'infliger des chocs électriques à des robots ; dans la seconde, ils devaient tuer un robot.
Dans le premier cas, même si les sujets humains auraient témoigné de la compassion pour le pauvre petit robt qui essayait de répondre à leurs questions, ils ont tous accepté d'infliger des chocs électriques de la plus grande intensité disponible, mais, dans quelques cas, il avait fallu que l'expérimentateur exerce son autorité pour les y obliger. Dans le cas d'une victime humaine supposée, dans l'expérience de Milgram, le tiers environ des sujets humains refusent d'aller jusqu'au bout...
Dans le second cas, les deux auteurs testaient à la fois les effets d'un niveau d'intelligence différent de la part du robot, la perception de cette intelligence par les sujets humains et l'intensité de la destruction du robot (combien de coups de marteau avaient été portés pour casser le robot en combien de pièces?). Malheureusement, l'échantillon était réduit, mais les femmes auraient été portées à surestimer, relativement aux hommes, l'intelligence du robot le plus bête. Tandis que les hommes cassaient les robots avec un peu plus de hargne, en produisant plus de pièces... De manière générale, les robots les moins intelligents étaient frappés plus souvent, mais la différence n'était pas statistiquement significative.
Ces expériences étaient, bien entendu, imparfaites. Pour des raisons financières, les robots détruits dans la seconde expérience n'étaient pas très compliqués, démontrant un niveau d'intelligence se rapprochant au mieux de celui démontré par des blattes. De plus, les participants savaient naturellement qu'aucun robot actuel n'est l'équivalent d'un humain ; la projection animiste qu'on peut opérer sur des machines qui parlent et qui bougent de manière apparemment volontaire a ses limites.
Dans ces conditions, même si on sacrifiait dans une expérience future des robots plus complexes, les sujets humains pourraient hésiter à les frapper tant parce que les robots auraient un comportement plus intelligent que parce qu'ils seraient jugés plus coûteux! Néanmoins, ces petites expériences suggèrent, pour l'instant, que la nature fabriquée et simplifiée des robots permet d'évacuer les scrupules qui paralysaient encore un tiers des participants à l'expérience de Milgram. Pour l'instant, tout le monde acceptera de torturer des robots.
Est-ce à dire qu'à Abu Ghraib et ailleurs, on avait persuadé les tortionnaires qu'ils avaient affaire à des robots? Mais ce n'est pas uniquement une question de déshumanisation des victimes — cela, Milgram l'a prouvé il y a quarante ans.
Libellés : Futurisme, Réflexion
