Title: Análise de Dados / Filosofia e Ética da Inteligência Artificial
Tags: Análise_de_Dados Resumo
On every note of this deck, unless a note says otherwise:
tldr: - Capacidades de IA: IA fraca/estreita (especializada), IA forte/AGI (generalista como humanos, sem exigir consciência) e Superinteligência (supera humanos em quase tudo), com riscos existenciais ilustrados pelo “gorila problem”.
- Teste de Turing foca no comportamento indistinguível de um humano; requer NLP, representação de conhecimento, raciocínio automatizado e aprendizado de máquina.
- Estágios de desenvolvimento: máquinas reativas; memória limitada (melhoram com dados; ex.: assistentes); teoria da mente (experimental); autoconsciente (hipotética).
- IA Explicável/Transparente (XAI) evita “caixa-preta”; explicações devem ser compreensíveis, fiéis, completas e específicas; há ótica local e global; técnicas principais: SHAP (contribuições por atributo) e LIME (modelo local simples).
- IA enviesada: vieses em dados/algoritmos geram discriminação (ex.: caso Google Photos) e devem ser combatidos.
- IA responsável: desenvolvimento ético, seguro e centrado em pessoas, promovendo equidade, confiabilidade e responsabilização.
- IA FAT-E: Fairness (Justiça), Accountability (Responsabilidade), Transparency (Transparência) e Ethics (Ética) como pilares interligados.
- Privacidade diferencial: adiciona ruído a estatísticas para proteger indivíduos mantendo utilidade analítica.
link: https://documentacao.online/estudos/fk3q.html
title: Filosofia e Ética da Inteligência Artificial

front: (CEBRASPE (CESPE)/ AAAJ /Informática Banco de Dados/2022) A inteligência artificial geralmente se enquadra em duas categorias abrangentes: narrow AI, às vezes referida como weak AI, que é uma simulação da inteligência humana e opera dentro de um contexto limitado; e AGI (artificial general intelligence), que é uma máquina com inteligência geral e, assim como um ser humano, pode aplicar essa inteligência para resolver qualquer problema.
response: Correta
comment: A Narrow AI é projetada para resolver problemas específicos e realizar tarefas determinadas, como reconhecimento de voz, diagnóstico médico, ou recomendações de produtos., de outra forma a Inteligência Artificial Geral é capaz de resolver uma ampla gama de problemas e executar tarefas em diferentes domínios, demonstrando um nível de adaptabilidade e raciocínio semelhante ao de um ser humano.
Other fields (not shown on cards):
back: Correta - A Narrow AI é projetada para resolver problemas específicos e realizar tarefas determinadas, como reconhecimento de voz, diagnóstico médico, ou recomendações de produtos., de outra forma a Inteligência Artificial Geral é capaz de resolver uma ampla gama de problemas e executar tarefas em diferentes domínios, demonstrando um nível de adaptabilidade e raciocínio semelhante ao de um ser humano.

front: (FGV/AFFC (STN)/STN/Tecnologia da Informação/Transformação Digital/2024) No estudo avançado da Inteligência Artificial (IA), pesquisadores e desenvolvedores exploram as nuances e os potenciais futuros da tecnologia, distinguindo entre Inteligência Artificial Estreita (ANI), Geral (AGI) e Superinteligente (ASI). Cada uma dessas categorias representa um marco distinto no desenvolvimento da IA, com implicações profundas para a sociedade, economia e filosofia. Acerca do tema, avalie se as seguintes afirmações são verdadeiras (V) ou falsas (F).
( ) ANI, embora seja a forma mais comum de IA atualmente, possui capacidades de aprendizado e adaptação que permitem a transição natural para AGI sem intervenção humana direta, já que se baseia em algoritmos que podem evoluir autonomamente.
( ) AGI representa um ponto de inflexão teórico na pesquisa de IA, onde máquinas adquirem a habilidade de realizar qualquer tarefa cognitiva humana, incluindo aquelas que exigem compreensão emocional e social, algo que ainda não foi alcançado devido às limitações atuais da tecnologia e compreensão da consciência.
( ) ASI, como conceito, introduz a possibilidade de uma IA com capacidades que transcendem amplamente a inteligência humana, incluindo a habilidade de gerar inovações científicas e tecnológicas de forma independente, levantando preocupações éticas e existenciais sobre o controle humano sobre tais entidades.
As afirmações são, respectivamente,
a) F – V – V.
b) V – F – F.
c) V – V – F.
d) F – F – V.
e) F – V – F.
response: Alternativa A
comment: Falsa. A ANI (Inteligência Artificial Estreita ou Weak AI) é, de fato, a forma mais comum de IA atualmente, pois é projetada para executar tarefas específicas (como reconhecimento de voz, diagnóstico médico, etc.). Contudo, ela não possui capacidades intrínsecas que permitam uma transição natural para AGI sem intervenção humana. Muito pelo contrário, os algoritmos da ANI são incapazes de evoluir autonomamente para uma inteligência geral que realize qualquer tarefa cognitiva. Esse é um passo muito desejado e difícil de ser obtido pela sociedade humana.Lucas Fargoni Di Ianni Curso Completo de Ciência de Dados II. Verdadeira. A AGI (Inteligência Artificial Geral) representa justamente o ponto de inflexão teórico onde uma máquina teria a habilidade de realizar qualquer tarefa cognitiva humana – incluindo aquelas que envolvem compreensão emocional e social. Essa capacidade ainda não foi alcançada, justamente por conta das limitações atuais da tecnologia e do entendimento da consciência. III. Verdadeira. A ASI (Superinteligência Artificial) é o conceito de uma IA cuja inteligência excede em muito a humana em praticamente todos os aspectos, inclusive na geração independente de inovações científicas e tecnológicas. Essa perspectiva levanta, de fato, sérias preocupações éticas e existenciais sobre o controle que os humanos teriam sobre tais sistemas, como, por exemplo, o “Gorila Problem”.
Other fields (not shown on cards):
back: Alternativa A - Falsa. A ANI (Inteligência Artificial Estreita ou Weak AI) é, de fato, a forma mais comum de IA atualmente, pois é projetada para executar tarefas específicas (como reconhecimento de voz, diagnóstico médico, etc.). Contudo, ela não possui capacidades intrínsecas que permitam uma transição natural para AGI sem intervenção humana. Muito pelo contrário, os algoritmos da ANI são incapazes de evoluir autonomamente para uma inteligência geral que realize qualquer tarefa cognitiva. Esse é um passo muito desejado e difícil de ser obtido pela sociedade humana.Lucas Fargoni Di Ianni Curso Completo de Ciência de Dados II. Verdadeira. A AGI (Inteligência Artificial Geral) representa justamente o ponto de inflexão teórico onde uma máquina teria a habilidade de realizar qualquer tarefa cognitiva humana – incluindo aquelas que envolvem compreensão emocional e social. Essa capacidade ainda não foi alcançada, justamente por conta das limitações atuais da tecnologia e do entendimento da consciência. III. Verdadeira. A ASI (Superinteligência Artificial) é o conceito de uma IA cuja inteligência excede em muito a humana em praticamente todos os aspectos, inclusive na geração independente de inovações científicas e tecnológicas. Essa perspectiva levanta, de fato, sérias preocupações éticas e existenciais sobre o controle que os humanos teriam sobre tais sistemas, como, por exemplo, o “Gorila Problem”.

front: (IBFC/AJ TRF5/TRF 5/Apoio Especializado/Análise de Dados/2024) Teste de Turing é um conceito fundamental na história da inteligência artificial (IA), proposto pelo matemático e lógico Alan Turing em 1950. Ele é frequentemente discutido em relação à capacidade das máquinas de exibir comportamento inteligente semelhante ao dos seres humanos. Diante do exposto, assinale a alternativa que apresenta quais são as principais capacidades para um computador passar no teste de Turing.
a) Apenas processamento de linguagem natural e robótica
b) Visão computacional e conhecimento
c) Processamento de linguagem natural, representação de conhecimento, raciocínio automatizado e aprendizado de máquina
d) Processamento de linguagem natural e visão computacional
response: Alternativa C
comment: Segundo Turing, para satisfazer seu teste o computador precisaria de, pelo menos, essas capacidades: Processamento de Linguagem Natural (Natural Language Processing), isto é, capacidade em compreender, interpretar e responder a comandos ou perguntas feitas em linguagem humana; Representação do Conhecimento (Knowledge Representation), isto é, capacidade de armazenar e organizar informações para que possa utilizá-las; Raciocínio Automatizado (Automated Reasoning), isto é, capacidade em usar regras e lógica para deduzir novas informações a partir do seu conhecimento armazenado; e Aprendizado de Máquina (Machine Learning), isto é, capacidade de aprender e melhorar seu desempenho ao longo do tempo.
Other fields (not shown on cards):
back: Alternativa C - Segundo Turing, para satisfazer seu teste o computador precisaria de, pelo menos, essas capacidades: Processamento de Linguagem Natural (Natural Language Processing), isto é, capacidade em compreender, interpretar e responder a comandos ou perguntas feitas em linguagem humana; Representação do Conhecimento (Knowledge Representation), isto é, capacidade de armazenar e organizar informações para que possa utilizá-las; Raciocínio Automatizado (Automated Reasoning), isto é, capacidade em usar regras e lógica para deduzir novas informações a partir do seu conhecimento armazenado; e Aprendizado de Máquina (Machine Learning), isto é, capacidade de aprender e melhorar seu desempenho ao longo do tempo.

front: (ADAPTADA - FGV/Pref BH/Ciência da Computação/2024) Relacione os termos de Inteligência Artificial (IA) às suas respectivas definições.
1. IA fraca
2. IA forte
(...)
4. Teste de Turing
( ) É capaz de resolver uma única tarefa, pode automatizar tarefas demoradas e analisar dados de maneiras que os humanos às vezes não podem.
( ) ...
( ) É capaz de resolver uma gama extensa e arbitrária de tarefas, incluindo aquelas que são novas, e executá-las com eficácia comparável à de um ser humano.
( ) É uma medida de inteligência de uma máquina, onde se a máquina pode se passar por um humano em uma conversa de texto, ela passa no teste.
response: 1, 2 E 4
comment: Vejamos como se relacionam as alternativas e as definições: (1. IA fraca) É capaz de resolver uma única tarefa, pode automatizar tarefas demoradas e analisar dados de maneiras que os humanos às vezes não podem. (2. IA forte) É capaz de resolver uma gama extensa e arbitrária de tarefas, incluindo aquelas que são novas, e executá-las com eficácia comparável à de um ser humano. (4. Teste de Turing) É uma medida de inteligência de uma máquina, onde se a máquina pode se passar por um humano em uma conversa de texto, ela passa no teste.
Other fields (not shown on cards):
back: 1, 2 E 4 - Vejamos como se relacionam as alternativas e as definições: (1. IA fraca) É capaz de resolver uma única tarefa, pode automatizar tarefas demoradas e analisar dados de maneiras que os humanos às vezes não podem. (2. IA forte) É capaz de resolver uma gama extensa e arbitrária de tarefas, incluindo aquelas que são novas, e executá-las com eficácia comparável à de um ser humano. (4. Teste de Turing) É uma medida de inteligência de uma máquina, onde se a máquina pode se passar por um humano em uma conversa de texto, ela passa no teste.

front: (CEBRASPE (CESPE)/Ana TI (DATAPREV)/DATAPREV/Desenvolvimento de software/2023) De acordo com os conceitos de inteligência artificial, as máquinas reativas têm a capacidade compreender os seres humanos, entendendo seus estados mentais.
response: Errado
comment: Máquinas reativas são sistemas de IA que operam apenas com os dados do momento, sem capacidade de armazenar informações ou aprender com experiências passadas. Em outras palavras, elas processam informações de maneira imediata e reagem a estímulos atuais. Vejam que o enunciado apresenta a definição de IA com Teoria da Mente, estágio que permitiria a uma máquina entender emoções humanas para moldar suas interações conosco.
Other fields (not shown on cards):
back: Errado - Máquinas reativas são sistemas de IA que operam apenas com os dados do momento, sem capacidade de armazenar informações ou aprender com experiências passadas. Em outras palavras, elas processam informações de maneira imediata e reagem a estímulos atuais. Vejam que o enunciado apresenta a definição de IA com Teoria da Mente, estágio que permitiria a uma máquina entender emoções humanas para moldar suas interações conosco.

front: (FGV/CAM DEP/Consultor Legislativo/Área XIV/2024) No contexto da Inteligência Artificial (IA), assinale a opção que define corretamente o termo “explicabilidade da IA” ou “Inteligência Artificial explicável” e indica por que ele é importante para a regulação do tema.
a) Representa a capacidade de uma IA de realizar tarefas sem quaisquer ações e intervenções humanas. Com base em processos algorítmicos, a IA vem ganhando autonomia decisória e mostrando-se consciente sobre o desenvolvimento das novas tecnologias.
b) Representa a habilidade de uma IA de explicar suas decisões em termos tecnicamente compreensíveis, a partir de uma única linguagem desenvolvida por campos neurais.
c) Representa um conjunto de técnicas de aprendizado de máquina que permite que os usuários humanos entendam, possam confiar e gerenciem com eficácia a geração emergente de parceiros com inteligência artificial.
d) Representa a precisão de uma IA em prever resultados baseados em dados qualitativos e quantitativos.
e) Representa a capacidade de uma IA de passar no Teste de Turing, sendo essencial para sua aceitação social.
response: Alternativa C
comment: a) Errada. A alternativa descreve o conceito de autonomia de IA. b) Errada. Nessa alternativa o examinador tentou enrolar o aluno colocando um conceito correto, de que a “Explicabilidade da IA” se refere a capacidade de tornar suas decisões e processos compreensíveis para os humanos, porém na sequência faz uma afirmação sem sentido “a partir de uma única linguagem desenvolvida por campos neurais”, tornando a alternativa errada. c) Correta. Segundo a IBM ( https://www.ibm.com/br-pt/topics/explainable-ai), a inteligência artificial explicável (XAI) é um conjunto de processos e métodos que permite aos usuários humanos compreender e confiar nos resultados e na saída criados por algoritmos de machine learning. d) Errada. A alternativa se relaciona a performance e eficácia da IA, e não à explicabilidade. e) Errada. O Teste de Turing é uma avaliação da capacidade de uma IA de simular comportamento humano a ponto de ser indistinguível de um ser humano em uma conversa, a classificando como inteligente. A “Explicabilidade da IA” não está relacionada a passar no Teste de Turing, mas sim a tornar seus processos e decisões compreensíveis para os humanos.
Other fields (not shown on cards):
back: Alternativa C - a) Errada. A alternativa descreve o conceito de autonomia de IA. b) Errada. Nessa alternativa o examinador tentou enrolar o aluno colocando um conceito correto, de que a “Explicabilidade da IA” se refere a capacidade de tornar suas decisões e processos compreensíveis para os humanos, porém na sequência faz uma afirmação sem sentido “a partir de uma única linguagem desenvolvida por campos neurais”, tornando a alternativa errada. c) Correta. Segundo a IBM ( https://www.ibm.com/br-pt/topics/explainable-ai), a inteligência artificial explicável (XAI) é um conjunto de processos e métodos que permite aos usuários humanos compreender e confiar nos resultados e na saída criados por algoritmos de machine learning. d) Errada. A alternativa se relaciona a performance e eficácia da IA, e não à explicabilidade. e) Errada. O Teste de Turing é uma avaliação da capacidade de uma IA de simular comportamento humano a ponto de ser indistinguível de um ser humano em uma conversa, a classificando como inteligente. A “Explicabilidade da IA” não está relacionada a passar no Teste de Turing, mas sim a tornar seus processos e decisões compreensíveis para os humanos.

front: (FGV - Prof EFM (SEDUC SP)/SEDUC SP/Informação e Comunicação/2023) No contexto da IA geracional, representada pelo ChatGPT e modelos similares, surge um desafio crítico relacionado ao viés. Em relação ao significado do termo “biased AI” (IA enviesada) na IA geracional, assinale a afirmativa correta.
a) Trata da incapacidade dos modelos de IA de aprender com exemplos de texto humano.
b) Refere-se à tendência de modelos de IA geracional em gerar respostas tendenciosas ou discriminatórias com base em dados de treinamento enviesados.
c) Descreve a capacidade da IA geracional de entender e aplicar princípios éticos em suas respostas.
d) Significa que a IA geracional não é capaz de reconhecer ou interpretar o contexto em que uma pergunta é feita.
e) Refere-se à tendência da IA geracional de gerar respostas excessivamente longas e detalhadas.
response: Alternativa B
comment: A questão faz uma contextualização para a “IA geracional” desnecessária para resolução da questão, visto que cobra o conceito de “IA enviesada”. Vale lembrar que estudaremos o modelo de “IA geracional” em momento adequado. a) Errada. Existem modelos de Inteligência Artificial que aprendem com a interação com seres humanos, como o ChatGPT, por exemplo. De qualquer forma, não se trata do conceito de “IA enviesada” b) Correta. IA enviesada refere-se à tendência de modelos de IA de gerar respostas que podem ser tendenciosas, discriminatórias ou refletir preconceitos presentes nos dados de treinamento. Isso ocorre porque esses modelos aprendem padrões dos dados com os quais são treinados, que podem incluir vieses sociais, culturais ou outros tipos de distorções. c) Errada. Embora determinada IA deva ser capaz de incorporar princípios éticos em suas respostas, isso não se trata do modelo de IA enviesada. d) Errada. a "IA enviesada" refere-se aos vieses que afetam as respostas, não à capacidade de entender o contexto da “IA geracional”. e) Errada. Respostas longas ou detalhadas podem ser uma característica esperada ou não do modelo de IA, a depender do tipo de entrada recebida e do seu design. Isso nada tem a ver com o conceito de "IA enviesada".
Other fields (not shown on cards):
back: Alternativa B - A questão faz uma contextualização para a “IA geracional” desnecessária para resolução da questão, visto que cobra o conceito de “IA enviesada”. Vale lembrar que estudaremos o modelo de “IA geracional” em momento adequado. a) Errada. Existem modelos de Inteligência Artificial que aprendem com a interação com seres humanos, como o ChatGPT, por exemplo. De qualquer forma, não se trata do conceito de “IA enviesada” b) Correta. IA enviesada refere-se à tendência de modelos de IA de gerar respostas que podem ser tendenciosas, discriminatórias ou refletir preconceitos presentes nos dados de treinamento. Isso ocorre porque esses modelos aprendem padrões dos dados com os quais são treinados, que podem incluir vieses sociais, culturais ou outros tipos de distorções. c) Errada. Embora determinada IA deva ser capaz de incorporar princípios éticos em suas respostas, isso não se trata do modelo de IA enviesada. d) Errada. a "IA enviesada" refere-se aos vieses que afetam as respostas, não à capacidade de entender o contexto da “IA geracional”. e) Errada. Respostas longas ou detalhadas podem ser uma característica esperada ou não do modelo de IA, a depender do tipo de entrada recebida e do seu design. Isso nada tem a ver com o conceito de "IA enviesada".

front: (FGV/SRFB/AFRFB/2023) Responsible AI (IA Responsável) e Explainable AI (IA Explicável) são conceitos importantes no desenvolvimento de sistemas de inteligência artificial. A IA Explicável refere-se à capacidade de explicar como uma decisão foi tomada pelo modelo de IA, permitindo que os usuários entendam o processo de tomada de decisão. Já a IA Responsável envolve garantir que a IA seja desenvolvida e implementada de forma ética e legalmente responsável. Nesse contexto, sobre Responsible AI, assinale a afirmativa incorreta.
a) A Responsible AI envolve garantir que a IA seja desenvolvida e implementada de forma ética e legalmente responsável.
b) A Responsible AI considera as implicações sociais e os potenciais efeitos negativos que o sistema pode ter sobre as pessoas.
c) A Responsible AI é sinônimo de IA Explicável, pois ambas se referem à tomada de decisões éticas e transparentes.
d) Uma IA pode ser responsável, mas ainda ser opaca e não explicável, tornando difícil para os usuários entenderem como as decisões são tomadas.
e) A Responsible AI leva em consideração o ciclo de vida da IA, desde a concepção até a desativação, e sua responsabilidade ética em cada fase.
response: Alternativa C
comment: a) Correta. Desenvolvimento e implementação de sistemas de IA de maneira ética e legal se adequa exatamente ao conceito de Responsible IA. b) Correta. A IA Responsável tem um forte caráter social, uma vez que defende desenvolvimento de sistemas de inteligência de maneira a respeitar os direitos humanos, promovendo a equidade. Ou seja, leva em consideração as implicações sociais e os potenciais efeitos negativos que um sistema de IA pode ter sobre as pessoas e a sociedade em geral. c) Errada. De forma alguma os conceitos são sinônimos. Enquanto a Responsible AI refere-se à prática geral de garantir que a IA seja desenvolvida e usada de maneira ética e responsável, incluindo considerações de impacto social e legal, a Explainable AI (IA Explicável) se concentra em tornar os processos de decisão da IA compreensíveis para os usuários. d) Correta. É possível que um sistema de IA seja desenvolvido de maneira ética e responsável (Responsible AI) sem necessariamente ser explicável (Explainable AI), visto que pode seguir todas as práticas éticas e legais e, ainda assim, ter características opacas, onde as decisões tomadas pela IA não são facilmente compreendidas pelos humanos. e) Correta. Segundo Virginia Dignum , em seu livro “ Responsible Artificial Intelligence – How to Develop and use AI in a Responsible Way”, uma abordagem responsável para o design de sistemas de IA requer que o processo de avaliação seja contínuo durante todo o processo de desenvolvimento e não apenas uma etapa na sequência de desenvolvimento. Além disso, a natureza dinâmica e adaptável dos sistemas de IA também requer que a avaliação seja contínua, pois o sistema está em constante evolução.
Other fields (not shown on cards):
back: Alternativa C - a) Correta. Desenvolvimento e implementação de sistemas de IA de maneira ética e legal se adequa exatamente ao conceito de Responsible IA. b) Correta. A IA Responsável tem um forte caráter social, uma vez que defende desenvolvimento de sistemas de inteligência de maneira a respeitar os direitos humanos, promovendo a equidade. Ou seja, leva em consideração as implicações sociais e os potenciais efeitos negativos que um sistema de IA pode ter sobre as pessoas e a sociedade em geral. c) Errada. De forma alguma os conceitos são sinônimos. Enquanto a Responsible AI refere-se à prática geral de garantir que a IA seja desenvolvida e usada de maneira ética e responsável, incluindo considerações de impacto social e legal, a Explainable AI (IA Explicável) se concentra em tornar os processos de decisão da IA compreensíveis para os usuários. d) Correta. É possível que um sistema de IA seja desenvolvido de maneira ética e responsável (Responsible AI) sem necessariamente ser explicável (Explainable AI), visto que pode seguir todas as práticas éticas e legais e, ainda assim, ter características opacas, onde as decisões tomadas pela IA não são facilmente compreendidas pelos humanos. e) Correta. Segundo Virginia Dignum , em seu livro “ Responsible Artificial Intelligence – How to Develop and use AI in a Responsible Way”, uma abordagem responsável para o design de sistemas de IA requer que o processo de avaliação seja contínuo durante todo o processo de desenvolvimento e não apenas uma etapa na sequência de desenvolvimento. Além disso, a natureza dinâmica e adaptável dos sistemas de IA também requer que a avaliação seja contínua, pois o sistema está em constante evolução.

front: (FGV/Auditor de Controle Externo (TCE-PA)/Informática/Analista de Sistemas/2024) O desenvolvimento de algoritmos de Inteligência Artificial generativa está relacionado a aspectos éticos com impactos sociais, culturais e econômicos. Entre as diretrizes presentes em diversos instrumentos regulatórios relacionados à IA generativa, destaca-se a priorização de abordagens considerando os aspectos que formam a matriz FAT. O acrônimo FAT é formado pelos seguintes princípios éticos relacionados ao desenvolvimento de algoritmos:
a) Feedback, Algorithm e Training.
b) Framework, Agents e Tasks.
c) Fairness, Accountability e Transparency.
d) Freedom, Autonomy e Trust.
e) Fidelity, Altruism e Truthfulness.
response: Alternativa C
comment: Fairness (Justiça): Este princípio enfatiza a necessidade de que os algoritmos sejam imparciais e não reproduzam vieses que possam levar a discriminações injustas, com favorecimento indevido a determinados grupos em detrimento de outros, sendo fundamental para a equidade nas aplicações de IA. Accountability (Responsabilidade): Accountability envolve a obrigação dos desenvolvedores, implementadores e gestores de algoritmos de prestar contas dos impactos que suas criações geram. Isso significa que, quando um sistema apresenta falhas ou resultados injustos, deve haver mecanismos claros de auditoria para identificação dos responsáveis a fim de se corrigir os problemas. Transparency (Transparência): Transparência diz respeito à compreensibilidade dos processos internos dos algoritmos. Assim, um sistema transparente permite que stakeholders, sejam eles usuários, reguladores ou especialistas, entendam como as decisões são tomadas. Isso é essencial para construir confiança e possibilitar a auditoria dos processos, mesmo que os modelos sejam complexos ou inicialmente pareçam uma "caixa-preta".
Other fields (not shown on cards):
back: Alternativa C - Fairness (Justiça): Este princípio enfatiza a necessidade de que os algoritmos sejam imparciais e não reproduzam vieses que possam levar a discriminações injustas, com favorecimento indevido a determinados grupos em detrimento de outros, sendo fundamental para a equidade nas aplicações de IA. Accountability (Responsabilidade): Accountability envolve a obrigação dos desenvolvedores, implementadores e gestores de algoritmos de prestar contas dos impactos que suas criações geram. Isso significa que, quando um sistema apresenta falhas ou resultados injustos, deve haver mecanismos claros de auditoria para identificação dos responsáveis a fim de se corrigir os problemas. Transparency (Transparência): Transparência diz respeito à compreensibilidade dos processos internos dos algoritmos. Assim, um sistema transparente permite que stakeholders, sejam eles usuários, reguladores ou especialistas, entendam como as decisões são tomadas. Isso é essencial para construir confiança e possibilitar a auditoria dos processos, mesmo que os modelos sejam complexos ou inicialmente pareçam uma "caixa-preta".

front: (VUNESP/Auditor de Controle Externo/TCE SP2025) Assinale a alternativa que apresenta uma medida eficaz para minimizar o viés de resposta na utilização de inteligência artificial generativa.
a) Não atualizar o modelo ou o conjunto de dados com frequência, pois a tendência natural do modelo é que o viés de resposta estabilize-se ao longo do tempo.
b) Basear a validação do modelo em um único conjunto de dados homogêneo, desconsiderando variações contextuais.
c) Permitir que o modelo se autotreine e se ajuste sem supervisão e intervenção humana enviesada.
d) Implementar revisões regulares do conjunto de dados, visando assegurar a diversidade e a representatividade dos dados utilizados para treinar e ajustar o modelo.
e) Selecionar apenas dados históricos e antigos, pois sempre fornecem credibilidade histórica ao modelo.
response: Alternativa D
comment: a) Errada. A IA Enviesada é causada por vieses humanos que influenciam os dados de treinamento ou o algoritmo. A falta de atualização e intervenção permite que esses vieses se perpetuem, pois a tendência do modelo treinado com dados enviesados é amplificar e perpetuar os preconceitos do mundo real. b) Errada. O viés de resposta (ou IA enviesada) ocorre quando os dados de treinamento não são representativos da população. Basear a validação em um único conjunto de dados homogêneo e desconsiderar variações contextuais é justamente a causa do problema, resultando em decisões tendenciosas ou discriminatórias. c) Errada. Embora a falta de intervenção humana "enviesada" possa parecer positiva, a supervisão e o ajuste são essenciais para combater e prevenir os vieses nos sistemas de IA. Permitir que o modelo se ajuste sem supervisão (ou seja, sem garantir a equidade e o respeito aos direitos humanos) justamente contraria esse princípio. d) Correta. A IA Enviesada é gerada por dados de treinamento não representativos. A solução mais eficaz é garantir a diversidade e representatividade dos dados usados para treinar o modelo. e) Errada. A simples seleção de dados históricos ou antigos não garante a diversidade e a representatividade necessárias para evitar o viés. Se os dados históricos já contiverem preconceitos (vieses sociais ou culturais), eles apenas ajudarão a amplificar e perpetuar esses vieses do mundo real.
Other fields (not shown on cards):
back: Alternativa D - a) Errada. A IA Enviesada é causada por vieses humanos que influenciam os dados de treinamento ou o algoritmo. A falta de atualização e intervenção permite que esses vieses se perpetuem, pois a tendência do modelo treinado com dados enviesados é amplificar e perpetuar os preconceitos do mundo real. b) Errada. O viés de resposta (ou IA enviesada) ocorre quando os dados de treinamento não são representativos da população. Basear a validação em um único conjunto de dados homogêneo e desconsiderar variações contextuais é justamente a causa do problema, resultando em decisões tendenciosas ou discriminatórias. c) Errada. Embora a falta de intervenção humana "enviesada" possa parecer positiva, a supervisão e o ajuste são essenciais para combater e prevenir os vieses nos sistemas de IA. Permitir que o modelo se ajuste sem supervisão (ou seja, sem garantir a equidade e o respeito aos direitos humanos) justamente contraria esse princípio. d) Correta. A IA Enviesada é gerada por dados de treinamento não representativos. A solução mais eficaz é garantir a diversidade e representatividade dos dados usados para treinar o modelo. e) Errada. A simples seleção de dados históricos ou antigos não garante a diversidade e a representatividade necessárias para evitar o viés. Se os dados históricos já contiverem preconceitos (vieses sociais ou culturais), eles apenas ajudarão a amplificar e perpetuar esses vieses do mundo real.

front: (IBFC/AJ TRF5/TRF 5/Apoio Especializado/Análise de Sistemas de Informação/2024) Analise a citação, que trata de uma categoria de Inteligência Artificial (IA): “[...] acredita que um dia será possível recriar máquinas capazes de pensar, criar e exibir comportamento inteligente nos moldes humanos, a partir da criação de algoritmos cognitivos que possam executar em computadores [...]” (SILVA et al., 2018, p.17). Assinale a alternativa que apresenta esta categoria de IA.
a) Hiperinteligência
b) Superinteligência
c) Inteligência artificial fraca
d) Inteligência artificial forte
response: Alternativa D
comment: A citação de SILVA et al. apresenta a ideia de recriar máquinas que não apenas simulem, mas realmente pensem, criem e exibam comportamentos inteligentes de maneira similar aos humanos. Esse conceito vai além da simples execução de tarefas específicas (como ocorre na IA fraca ou estreita) e propõe o desenvolvimento de algoritmos cognitivos capazes de replicar a totalidade das funções mentais humanas. Essa abordagem é a essência da Inteligência Artificial Forte, também conhecida como Inteligência Artificial Geral (AGI) ou IA em Nível Humano.
Other fields (not shown on cards):
back: Alternativa D - A citação de SILVA et al. apresenta a ideia de recriar máquinas que não apenas simulem, mas realmente pensem, criem e exibam comportamentos inteligentes de maneira similar aos humanos. Esse conceito vai além da simples execução de tarefas específicas (como ocorre na IA fraca ou estreita) e propõe o desenvolvimento de algoritmos cognitivos capazes de replicar a totalidade das funções mentais humanas. Essa abordagem é a essência da Inteligência Artificial Forte, também conhecida como Inteligência Artificial Geral (AGI) ou IA em Nível Humano.

front: (FGV/AJ (TJ MT)/TJ MT/Tecnologia da Informação/2024) A Inteligência Artificial (IA) tem sido um campo de pesquisa e inovação que evoluiu bastante ao longo das décadas, e geralmente é dividida em IA fraca e IA forte, conceitos que se referem ao nível de “inteligência” que a IA consegue simular ou alcançar. Em relação ao conceito de Inteligência Artificial (IA), assinale a afirmativa que descreve corretamente a diferença entre IA forte e IA fraca.
a) IA forte é um sistema que simula a inteligência humana em tarefas específicas, enquanto IA fraca consegue aprender e entender contextos complexos, como um ser humano.
b) IA fraca se refere a sistemas que replicam com exatidão a consciência humana, enquanto IA forte realiza tarefas automatizadas sem a necessidade de consciência.
c) IA forte é caracterizada pela capacidade de adquirir consciência e compreensão geral, enquanto IA fraca é projetada para executar tarefas específicas sem consciência.
d) IA fraca é um sistema totalmente autônomo, que toma decisões complexas de forma independente, enquanto IA forte precisa da intervenção humana para operar.
e) IA forte e IA fraca não têm diferença quanto à forma de processamento de informações; a distinção está apenas na potência do hardware que utilizam.
response: Alternativa C
comment: IA Fraca (ou IA Estreita) Trata-se de sistemas desenvolvidos para realizar tarefas específicas. Esses sistemas podem simular aspectos da inteligência humana em contextos limitados, como reconhecimento de voz, diagnóstico médico ou jogos, mas não possuem consciência, sentimentos ou compreensão geral do mundo. Em suma, a IA fraca é especializada. IA Forte (ou IA Geral): Esse conceito se refere a sistemas que seriam capazes de adquirir uma inteligência comparável à humana. Isso incluiria não apenas a execução de tarefas específicas, mas também a capacidade de aprender, entender contextos complexos, ter consciência e agir de forma autônoma em uma variedade de situações. A IA forte buscaria replicar a totalidade das capacidades cognitivas humanas, indo além da simples simulação de funções.
Other fields (not shown on cards):
back: Alternativa C - IA Fraca (ou IA Estreita) Trata-se de sistemas desenvolvidos para realizar tarefas específicas. Esses sistemas podem simular aspectos da inteligência humana em contextos limitados, como reconhecimento de voz, diagnóstico médico ou jogos, mas não possuem consciência, sentimentos ou compreensão geral do mundo. Em suma, a IA fraca é especializada. IA Forte (ou IA Geral): Esse conceito se refere a sistemas que seriam capazes de adquirir uma inteligência comparável à humana. Isso incluiria não apenas a execução de tarefas específicas, mas também a capacidade de aprender, entender contextos complexos, ter consciência e agir de forma autônoma em uma variedade de situações. A IA forte buscaria replicar a totalidade das capacidades cognitivas humanas, indo além da simples simulação de funções.

front: (ADAPTADA - PGP UFV/UFV/Tecnologia da Informação/2022) Considere as afirmativas a seguir:
I. Inteligência Artificial (IA) é a parte da Ciência da Computação que se destina a desenvolver sistemas capazes de resolver um problema de uma maneira tal que seja considerada inteligente quando executada por um ser humano.
II. (...)
III. (...)
IV. Para provar que é inteligente pelo teste de Turing, um sistema (máquina) deve se comportar como um ser humano.
Está CORRETO o que se afirma, apenas, em:
a) I.
b) IV.
c) I e IV.
response: Alternativa C (i E Iv)
comment: I – Cuidado com afirmações que restringem o relacionamento da Inteligência Artificial com outros campos do conhecimento através de palavras como “apenas” e “somente”. Aqui, por esse motivo, não há problema em afirmar que a IA pertence ao campo da Ciência da Computação. Além disso, a afirmativa acerta ao afirmar que se trata de um campo dedicado ao desenvolvimento de sistemas e tecnologias que podem realizar tarefas que normalmente requerem inteligência humana. IV – O teste de Turing introduz uma abordagem comportamental para classificar determinado sistema como inteligente, assim, não exige que a máquina tenha consciência ou compreensão verdadeira, mas sim que o comportamento da máquina seja indistinguível do comportamento humano em um diálogo.
Other fields (not shown on cards):
back: Alternativa C (i E Iv) - I – Cuidado com afirmações que restringem o relacionamento da Inteligência Artificial com outros campos do conhecimento através de palavras como “apenas” e “somente”. Aqui, por esse motivo, não há problema em afirmar que a IA pertence ao campo da Ciência da Computação. Além disso, a afirmativa acerta ao afirmar que se trata de um campo dedicado ao desenvolvimento de sistemas e tecnologias que podem realizar tarefas que normalmente requerem inteligência humana. IV – O teste de Turing introduz uma abordagem comportamental para classificar determinado sistema como inteligente, assim, não exige que a máquina tenha consciência ou compreensão verdadeira, mas sim que o comportamento da máquina seja indistinguível do comportamento humano em um diálogo.