Blog News

Na Saúde Digital, qual o limite para o uso da Inteligência Artificial?

Quero iniciar este artigo deixando claro uma coisa: Sou um entusiasta da adoção da tecnologia quando aplicada para o benefício das pessoas! Estando isso estabelecido, vamos direto ao tema deste artigo.

Deve haver limite no uso da inteligência artificial (AI) no campo da Saúde Digital?

Esta pergunta pode parecer óbvia, mas garanto que sua resposta não o é!

Veja um caso muito curioso de como uma inovação causou repercussão na sociedade de sua época. Era começo do século 20 e a eletricidade estava se espalhando por diversas cidades americanas. O invento de Thomas Edison simbolizava modernidade e uma promessa de melhoria na vida das pessoas. Mas em 20 de Agosto de 1905, uma matéria foi publicada no prestigioso jornal The New York Times com o tema “Postes de luz repelem os amantes” (veja imagem abaixo). Aquela inovação, que fora apresentada como uma medida de segurança para os pedestres, acabou criando uma mudança de comportamento nos casais de namorados e amantes que frequentavam a praia de Coney Island e aproveitavam a penumbra da noite para se encontrarem. Para nós hoje pode parecer algo banal e até cômico, mas a cem anos atrás isso foi notícia de jornal e gerou uma mudança nos hábitos sociais de várias pessoas. Tinha-se criado uma inovação disruptiva nos costumes de parte da população! 

Bem, nós temos visto desde então várias outras inovações que causaram mudanças profundas na sociedade, como a Internet em tempos mais recentes. A sociedade já começa a ser estudada em períodos pré e pós Internet, pois seu advento criou uma nova geração de pessoas digitais e até novos padrões de comportamento. Mesmo no quesito linguístico, a Internet foi disruptiva ao introduzir novas palavras do mundo digital (“Googlar”, “viralizar” ou “postei”), idiomas de programação (por exemplo o HTML, quando surgiram as páginas na World Wide Web, a tal www!), só para citar alguns exemplos. Sim, as novas gerações digitais já se expressam e relacionam totalmente diferente das demais que nasceram nas décadas finais do século 20!

Até aqui, nada de novo, certo? Bem, depende. O fato de estarmos passando por uma revolução digital acelerada, que transforma a sociedade em períodos de meses ou poucos anos, e não mais em décadas ou séculos como acontecia antigamente, tem criado um novo e complexo desafio: como equilibrar a adoção das novas tecnologias e sistemas digitais (que aparecem em velocidade cada vez maiores) com os valores éticos, morais, emocionais e por fim, sociais?

Neste ponto trago de novo o tema deste artigo, e que tem sido no mundo inteiro debatido e publicado em milhares de textos, palestras, livros, posts, etc: Deve haver limite no uso da inteligência artificial (AI) no campo da Saúde Digital?

Quando se menciona a Inteligência Artificial (nas suas várias concepções, como mostra o diagrama abaixo), devemos entender que ela pode ser vista como uma legítima representante de suas irmãs digitais: Internet das Coisas (IoT), Machine Learning, Data Analytics, dentre outras parentes. A inteligência artificial agrega no imaginário popular um mundo além do nosso entendimento, o mundo das máquinas!

Por isso, estamos num momento de reflexão e direcionamento: o que está se criando e com que propósito? Esta nova “ferramenta” será bem utilizada ou poderá causar sérios danos que não estamos querendo avaliar, dado o encantamento que tal tecnologia apresenta no momento? Há uma série de questões muito relevantes sendo feitas por lideranças mundiais e que devem ser analisadas com razoabilidade e imparcialidade. Vejam estes casos a seguir:

1) O Facebook divulgou no dia 29 de julho de 2017 que havia desligado seu sistema de inteligência artificial por que ele havia criado sua própria linguagem de comunicação. O sistema do Facebook havia desenvolvido palavras de código para tornar sua comunicação mais eficiente e os pesquisadores colocaram-no offline quando perceberam que não estava mais usando Inglês como língua padrão.  A descoberta dos pesquisadores do Facebook de tal comportamento misterioso da inteligência artificial é semelhante a uma série de casos documentados em outros lugares. Em todos os casos, a inteligência artificial divergiu do treinamento em inglês que recebeu para desenvolver uma nova linguagem. As frases no novo idioma não fazem sentido para as pessoas, mas contêm significado útil quando interpretado por robôs (os tais Bots) que se comunicam a base da inteligência artificial. 

2) O mundialmente reconhecido empresário Elon Musk, dono das empresas Tesla (carros elétricos) e SpaceX (espaçonaves e foguetes), disse recentemente em um encontro com lideranças governamentais dos Estados Unidos, o seguinte:

A Inteligência Artificial é o caso raro, onde eu acho que precisamos ser pró-ativos na regulamentação em vez de reativos. Porque penso que quando estivermos reativos na regulamentação da Inteligência Artificial, será tarde demais. A Inteligência Artificial é um risco fundamental para a existência da civilização humana“- Elon Musk

Há um estudo em andamento pelo renomado MIT chamado Moral Machine(http://moralmachine.mit.edu/ ) que está pesquisando qual decisão as pessoas julgam ser a correta quando um carro autônomo controlado por inteligência artificial terá de escolher entre opções em situações limites, que hoje somente humanos decidem. Vale a pena dar uma olhada no site e participar, pois você mesmo verá que certas decisões não são simples análise estatística baseadas em Big Data e senso lógico, elas carregam profundos valores humanos que cada um de nós possui. Como ensinar isso a máquinas, eis a questão!

O uso de qualquer tecnologia que tenha por finalidade o benefício das pessoas, é um uso adequado e valioso. Mas com certeza as questões envolvidas em qualquer inovação humana devem prevalecer: que valores éticos, morais, emocionais e sociais estamos promovendo?

A visão de Elon Musk se junta a de Bill Gates e outros expoentes do mundo digital. É claro que o futuro do uso da Inteligência Artificial não será como os filmes de Hollywood mostram nem como os mais céticos também profetizam (ao estilo Exterminador do Futuro e a rede Skynet).

Portanto, a pergunta deste artigo é mais do que pertinente no momento em que estamos: Na Saúde Digital, aonde muitos aparelhos nos diagnosticam, realizam exames e até farão uso da inteligência artificial e automatizadas, qual o limite para o uso da Inteligência Artificial? Está aí um belo desafio no qual todos nós iremos participar, quer tenhamos nos apercebido disso ou não!

Abraço a todos!

Guilherme Rabello, responde pela Gerencia Comercial e Inteligência de Mercado do InovaInCor – InCor / Fundação Zerbini (grabello.inovaincor@zerbini.org.br). Atua como consultor, palestrante e escreve artigos sobre inovação, tecnologia e negócios.