Quando a tecnologia surpreende e nos interroga (II)

2) A culpa é do sistema

 Não foi ontem, nem neste século. Em 1968, há 58 anos, o genial Stanley Kubrick realizou o espantoso filme “2001 Odisseia no Espaço”. Nesse filme um computador inteligente, HAL 9000 (uma letra antes de IBM e melhor teria sido, talvez, JCN, uma letra à frente), ganha vontade própria e passa a ser ele a mandar, ignorando e contrariando as ordens da tripulação da nave. A máquina desrespeita e ameaça o homem, o seu criador!

Este enredo hoje seria de uma atualidade espantosa, quando sobre a Inteligência Artificial correm visões apocalíticas, anunciando como sua possível consequência o fim da humanidade.

Sobre a imprevisibilidade da IA os informáticos sabem bem que quando um computador diz que o resultado de 2+2 é 22, não será por ter vontade própria, mas por existir uma falha na programação, um erro, na gíria um “bug”, desculpa inventada no tempo em que um inseto introduzido nos enormes armários dos computadores antigos seria razão suficiente para explicar o “despiste”.

Com a complexidade atual dos sistemas informáticos não será tão fácil “debuggar” e extrair o inseto. Hoje os sistemas informáticos são cebolas com tantas e tantas camadas, que dificilmente se saberá por andam os “program counter” lá no fundo…mas a culpa do despiste não deve ser atribuída ao silício, elemento químico na base dos circuitos integrado