CRITERIA FOR ASSESSING THE RISKS OF ARTIFICIAL INTELLIGENCE SYSTEMS

Abstract

O presente estudo investiga os riscos associados à crescente adoção de sistemas de Inteligência Artificial (IA) em áreas críticas, como saúde e segurança pública. Com o avanço tecnológico e a expansão do uso de IA, surge a necessidade de estabelecer critérios rigorosos para avaliar e mitigar os riscos potenciais que esses sistemas podem apresentar. O estudo se concentra na análise dos critérios definidos pelo European Union Artificial Intelligence Act (EU AI Act), que visa categorizar e regular o uso de IA com base em seu nível de risco, além de colher insights de outros frameworks (como aqueles propostos pelo National Institute of Standards and Technology, Au Yeung, Novelli e Floridi, Slattery, e Stackpole). A pesquisa detalha os diferentes níveis de risco previstos pela legislação europeia, que classifica os sistemas de IA em categorias que variam de risco mínimo a risco inaceitável. Os sistemas de IA com risco mínimo são aqueles que apresentam poucos ou nenhum impacto adverso, enquanto os de risco inaceitável são proibidos devido ao seu potencial de causar danos significativos ou irreparáveis à sociedade ou aos indivíduos. Entre esses extremos, encontram-se os sistemas de risco médio a alto, que exigem medidas adicionais de conformidade, transparência e supervisão para garantir sua implementação segura. Por fim, o estudo sugere que, embora a regulamentação europeia represente um avanço significativo na governança da IA, é crucial que essas diretrizes sejam constantemente revisadas e aprimoradas à medida que a tecnologia evolui, de forma a permitir que os benefícios trazidos pela IA não impliquem em prejuízos para os direitos e liberdades de indivíduos.