O Instituto de Engenharia de Sistemas e Computadores, Tecnologia e Ciência (INESC TEC) está a coordenar um projeto que coloca humanos e sistemas de Inteligência Artificial (IA) a trabalhar em conjunto, para desenvolverem uma ferramenta “confiável e compreensível”. Em comunicado, o instituto do Porto explica que o projeto intitulado TRUST-AI, procura “explicar os sistemas de inteligência artificial, tornando-os mais transparentes e confiáveis”.
O projeto, que aprofunda algumas técnicas de inteligência artificial, tenta responder a um dos principais desafios – se não o maior desafio – da inteligência artificial, que é a questão da explicabilidade.
Nos últimos anos, os modelos têm tido um bom desempenho, mas, às vezes, não é possível explicá-los nem confiar neles, porque, em cenários diferentes daqueles para os quais foram pensados, não sabemos se vão tomar decisões justas. A maioria dos métodos de inteligência artificial gera modelos “caixa preta”, que são equiparáveis a expressões matemáticas muito longas que ocupam várias páginas e que são incompreensíveis para humanos.
O objetivo do TRUST-AI é gerar expressões matemáticas muito mais curtas, com o mínimo número de constantes possível (os valores numéricos que ninguém consegue explicar) e com algumas variáveis, que sejam válidas no presente e no futuro. Para Gonçalo Figueira, investigador e coordenador do projeto, é necessário “usar métodos que gerem expressões simbólicas e envolver humanos na manipulação e procura por novas expressões. A procura é sobretudo empírica (baseada na experimentação), mas onde o humano pode usar o seu raciocínio para orientar um pouco a máquina, evitando expressões que sabe que não fazem sentido, e assim poupar muito esforço computacional”.
Em jeito de pergunta, é a questões como estas que o INESC TEC se propõe responder: “Será que podemos confiar naquilo que os modelos matemáticos nos estão a dizer para fazer? Porque é que um médico pode confiar num sistema que lhe indica a altura certa para operar um tumor raro? Como é que um retalhista pode ter a certeza de que o algoritmo não favoreceu um fornecedor em detrimento de um concorrente?”..
Os diferentes setores e países abrangidos
A ferramenta que está a ser aplicada a três áreas (saúde para tratamento de tumores, retalho online para selecionar horários de entrega de encomendas e energia para apoiar previsões de procura em edifícios) serve para encontrar “explicações para dois tipos de pessoas”, tal como explica Gonçalo Figueira.
“O primeiro tipo de pessoas é o cliente final – para que ele perceba que janelas de entrega é que estão a ser mostradas, porque é que o preço é mais barato nuns casos e não noutros e porque é que lhe está a ser mostrada uma janela e não outra. O segundo tipo de pessoas é o gestor de operações – para que perceba também o que está a acontecer e porque é que aquelas decisões estão a ser sugeridas daquela forma”, acrescentou Gonçalo Figueira.
Apesar de se aplicar apenas em três áreas, “o projeto pode ser aplicável a outros setores”, como por exemplo a indústria, administração pública, setor bancários e seguros.
Embora a inteligência artificial seja um tema muito falado hoje, a temática não é assim tão recente. Gonçalo Figueira dá o exemplo do supercomputador que derrotou o campeão mundial de xadrez, Garry Kasparov, em 1996. Nessa altura, o intuito da IA era completamente diferente do que hoje se utiliza. “Eu diria que a inteligência artificial é passado, presente e acho que também vai ser futuro. Digo isto, porque existe uma expectativa muito grande em relação ao impacto que isto pode ter na economia, não só na economia das empresas, mas também na própria produção científica”.
A criação deste projeto abre várias portas como “explorar uma quantidade de dados muito grande ou trazer o poder computacional das máquinas para automatizar análises que iam demorar demasiado tempo se as fizéssemos manualmente”. No entanto, a inteligência artificial também fecha outras, porque “pode aprender decisões um pouco enviesadas, dado não ter o conhecimento do negócio que tem um especialista na área ou não ter o conhecimento teórico de um problema mais académico”.
O projeto, financiado em quatro milhões de euros pelo programa Horizonte 2020 da União Europeia, teve início em outubro e terá uma duração de 48 meses até setembro de 2024. Além do INESC TEC, integram este projeto a LTPLabs e mais cinco parceiros de cinco países: Tartu Ulikool (Estónia), Institut National De Recherche Eninformatique Et Automatique (França), Stichting Nederlandse Wetenschappelijk Onderzoek Instituten (Holanda), Applied Industrial Technologies (Chipre) e TAZI Bilisim Teknolojileri A.S. (Turquia).
As escolhas não foram apenas “pelo interesse da área em si, mas também por conveniência, porque são áreas nas quais cada um dos parceiros tem trabalhado bastante e têm descoberto oportunidades de investigação“, acrescenta o coordenador do projeto.
Artigo editado por Filipa Silva
