A ética na inteligência artificial ganha importância à medida que o uso cresce e essas ferramentas oferecem aplicações úteis, mas também riscos de abuso.
Inteligência artificial: como evoluiu e do que é capaz?
Em 2023, ferramentas de IA amplamente disponíveis levaram a tecnologia a novos usuários por meio de produtos gratuitos e pagos.
As empresas passaram a considerar cada vez mais a adoção da IA, sua integração aos objetivos de negócios e a confiança dos usuários.
Uma finalidade central desses sistemas é agilizar atividades humanas. Por exemplo, o modelo GPT-3 pode gerar textos para diversas tarefas, inclusive escrita criativa. Seu resultado ainda precisa ser revisado quanto à precisão, originalidade e adequação do uso.
Outros exemplos de plataformas baseadas em IA são:
- Synthesia permite criar vídeos com avatares de IA e opções em vários idiomas.
- Zoho Ziaé uma assistente capaz de transformar dados empresariais em informações úteis para diferentes equipes.
- Timelyconcentra-se em medir a produtividade e ajudar equipes a entender como o tempo de trabalho é distribuído.
Essas ferramentas interagem com usuários por meio de técnicas como o processamento de linguagem natural, ou PLN.
Assim, pessoas e muitas organizações puderam explorar seu potencial em diversos setores.
Como as ferramentas de IA adquiriram capacidades tão avançadas e preditivas?
Seu desenvolvimento se apoia no processamento de grandes volumes de dados, no aprendizado de máquina e no aprendizado profundo. Veja a contribuição de cada um:
Big data
Grandes conjuntos de dados podem ser organizados e analisados por algoritmos para identificar padrões que sustentam aplicações de IA.
Mais dados não significam automaticamente resultados melhores: qualidade, relevância, privacidade e vieses também afetam a confiabilidade.
Aprendizado de máquina
O aprendizado de máquina é um ramo da IA que usa dados para melhorar o desempenho de um modelo em determinada tarefa.
Seus modelos detectam padrões e relações que podem embasar previsões ou classificações.
As organizações podem usar essas análises para orientar decisões, desde que examinem premissas e incertezas.
Aprendizado profundo
O aprendizado profundo usa redes neurais de múltiplas camadas para aprender representações a partir de dados.
O treinamento ajusta parâmetros para que o sistema reconheça padrões e faça previsões relacionadas à tarefa.
Dependendo da aplicação, pode processar textos, imagens e dados de dispositivos conectados.
Conceitos e participantes envolvidos na ética da IA
A IA continua evoluindo e oferece oportunidades para melhorar muitos processos humanos.
Por isso, é importante definir usos adequados, evitar práticas prejudiciais e identificar responsáveis pelas decisões sobre IA.
Entre os principais conceitos e participantes estão:
IA de uso geral
Modelos de uso geral podem apoiar muitas tarefas, embora seu desempenho e suas limitações dependam do treinamento e da implantação.
Os usuários interagem por meio de prompts: instruções ou contexto que orientam a resposta.
Sistemas de IA especializados
Sistemas especializados são desenvolvidos ou adaptados para áreas como medicina, engenharia, marketing e indústria.
Suas configurações podem definir o escopo, o formato e o comportamento das respostas, mas não substituem a avaliação de especialistas.
Roboética
A roboética estuda questões morais relacionadas à criação e ao uso de robôs e sistemas inteligentes.
Os deveres em relação às máquinas continuam sendo objeto de debate filosófico e jurídico; não devem ser confundidos com direitos humanos estabelecidos.
Usuários de IA
São as pessoas que interagem com essas ferramentas. Suas necessidades, privacidade e possibilidade de contestar decisões devem orientar o projeto dos produtos.
Organizações e especialistas em IA
As organizações criam, compram ou implantam IA para melhorar produtos e processos. Capacidades maiores também exigem avaliação de riscos, governança de dados e supervisão dos resultados.
IA e o conflito da ética
As plataformas de IA são cada vez mais usadas para resolver problemas cotidianos, mas suas vantagens não eliminam a necessidade de administrar riscos.
Organizações podem desenvolver ou adaptar sistemas de IA para usos personalizados; essas iniciativas precisam de responsabilidades claras.
Princípios éticos ajudam a definir objetivos e limites aceitáveis quando pessoas direcionam sistemas de IA a executar tarefas.
Diretrizes éticas
As diretrizes devem promover usos benéficos e reduzir discriminação, exclusão e outros danos.
Por exemplo, criar personagens ou notícias falsas para manipular um público seria um uso antiético.
Por outro lado, empregar IA para aperfeiçoar processos sustentáveis e reduzir emissões pode apoiar os valores de uma organização.
Esses exemplos mostram que as escolhas de projeto, a finalidade, os dados e a supervisão importam. Não se deve presumir que sistemas de IA tenham consciência.
As decisões humanas sobre treinamento e implantação podem tornar um sistema útil ou prejudicial; ele não escolhe sozinho um caminho moral.
Como responder aos dilemas éticos da IA?
Um ponto de partida útil é a recomendação adotada pela Conferência Geral da UNESCO em 2021.
A UNESCO reconhece que a IA pode influenciar o pensamento, as interações e as decisões humanas na educação, na ciência, na cultura e na comunicação.
Sua recomendação apresenta valores e princípios para pessoas e organizações ao longo do ciclo de vida da IA e incentiva leis, políticas e governança adequadas.
Eles incluem:
Valores:
- Respeito aos direitos humanos, às liberdades fundamentais e à dignidade humana.
- Prosperidade do meio ambiente e dos ecossistemas.
- Diversidade e inclusão.
- Sociedades pacíficas, justas e interconectadas.
Princípios:
- Proporcionalidade e não causar danos.
- Segurança e proteção.
- Equidade e não discriminação.
- Sustentabilidade.
- Privacidade e proteção de dados.
- Transparência e explicabilidade.
- Supervisão e decisão humanas.
- Conscientização e educação.
- Responsabilidade e prestação de contas.
- Governança e colaboração adaptativas e com múltiplas partes interessadas.
Esses princípios formam uma referência internacional. Governos e organizações ainda precisam traduzi-los em salvaguardas adequadas ao contexto e revisá-las continuamente.
A EthicsGlobal espera maior adoção da IA por consumidores e organizações, com aplicações cada vez mais sofisticadas.
Por isso, é essencial estabelecer governança, procedimentos e salvaguardas centrados nas pessoas para um uso responsável.
Você leu Ética na Inteligência Artificial. Também recomendamos: Dez Princípios da Liderança Ética