2025 tem sido um ano de rápida evolução e crescimento com progresso significativo em inteligência artificial e suas integrações com outras áreas de conhecimento. É impressionante a maneira como essa tecnologia tem se integrado rapidamente em nossas vidas profissionais, acadêmicas, científicas e pessoais.

Para designers de UX, UI, Produto e Serviço, é necessário curiosidade e dedicação ao lidar com esse progresso veloz. Abraçar a IA exige repensar processos, compreender a tecnologia subjacente e garantir que valores humanos e necessidades do usuário estejam no centro do que criamos e compreender que tudo isto está em discussão no meio do turbilhão.

Com a IA tornando-se essencial para a inovação digital, nosso papel como designers está evoluindo, em total transformação e ressignificação: não estamos mais apenas criando interfaces, mas experiências que unem princípios centrados no humano com novas formas de interação, dispositivos, tecnologias. Essa transição exige pensamento crítico, técnico, sistemas orientados a dados e foco no ser humano e em questões nem sempre comerciais como ética e responsabilidade em projetos que envolvam IA.

Para orientar essa nova compreensão, empresas de tecnologia e universidades apresentam estratégias diversas e interssantes para uma IA centrada no humano e destacando como novo tema a ser explorado. Aqui estou elencando 5 das principais iniciativas neste sentido como uma análise rápida (linkedin) sobre cada uma delas.

Inspirado e adaptado do artigo: Este artigo é inspirado no artigo de Rob Chappel “"Human-centered AI: 5 frameworks for UX designers" https://uxdesign.cc/human-centered-ai-5-key-frameworks-for-ux-designers-6b1ad9e53d23 O artigo reúne frameworks da IBM, Google, Microsoft e Carnegie Mellon University, oferecendo um overview de cada um com recursos e referências (links) para navegar na rápida evolução das tecnologias e ferramentas de IA.

1. Modelo de Contexto IA/Humano da IBM

https://www.ibm.com/design/ai/fundamentals

O Modelo de Contexto IA/Humano da IBM centraliza sua prática de Design para IA, sendo um framework estruturado para garantir que soluções de IA interajam de forma fluida com usuários e evoluam com seu feedback, respeitando e aprimorando o contexto de uso.

• Compreensão de intenção: Sistemas de IA devem priorizar objetivos humanos, considerando intenção, emoções e contexto do usuário. A intenção representa o propósito fundamental do sistema, unindo necessidades, desejos e valores de usuários e negócios.
• Dados e política: Refere-se aos dados coletados dos usuários e do mundo, e às políticas que governam seu uso. Coleta e tratamento devem seguir padrões éticos e regulatórios. O contexto é essencial para personalizar recomendações, considerando fatores como local, horário ou urgência.
• Compreensão e expressão da máquina: Capacidade da IA de interpretar dados estruturados e não-estruturados, aplicar lógica, atualizar conhecimento com novos insights e comunicar respostas alinhadas à expectativa do usuário.
• Reações humanas e ciclo de aprimoramento: Sistemas devem trabalhar com humanos, e não apenas para humanos, equilibrando automação e agência humana. O ciclo de aprendizado e aprimoramento contínuo baseia-se nas interações e feedback do usuário.
• Avaliação dos resultados: Medição do impacto real da IA, verificando se atende efetiva e eticamente às necessidades do usuário.

2. Rubrica de Explicabilidade do Google

https://explainability.withgoogle.com/rubric

A Rubrica de Explicabilidade do Google visa criar sistemas de IA transparentes, justos e centrados no usuário, destacando 22 informações-chave para comunicar ao usuário.

Dividida em três níveis:

• Geral: Explicação do funcionamento do produto ou serviço, papel da IA, benefícios primários, modelo de negócio, medidas de segurança e transparência.
• Funcionalidades: Detalhamento das funções movidas por IA, explicando quando estão ativas, opções de controle, limitações, opções de personalização, dados usados e envolvimento humano.
• Decisão: Clareza sobre como decisões automáticas são tomadas, confiança do sistema em suas saídas e mecanismos para corrigir erros ou permitir contestação e feedback do usuário.

3. Toolkit HAX da Microsoft

https://www.microsoft.com/en-us/haxtoolkit/

O Toolkit Human-AI Experiences (HAX), da Microsoft, é um framework abrangente para equipes desenvolverem produtos de IA orientados ao usuário.

Componentes:

• Diretrizes para interação Humano-IA: Práticas recomendadas para garantir experiências intuitivas.
• Biblioteca de Design HAX: Exemplos e padrões aplicáveis para cada diretriz de interação.
• Workbook HAX: Ferramenta colaborativa para priorizar diretrizes, otimizando o processo de design.
• Playbook HAX: Focado em aplicações de linguagem natural, aponta falhas comuns e estratégias de mitigação.

4. AI Brainstorming Kit do Instituto HCI (Carnegie Mellon)

https://aidesignkit.github.io/

O kit da Carnegie Mellon visa ajudar equipes a explorar capacidades da IA e selecionar projetos relevantes e centrados no usuário, evitando desenvolver soluções irrelevantes.

• Classifica funções de IA em: detecção de padrões, previsão de tendências, geração de conteúdo e automação de ações.
• Oferece exemplos de produtos reais de IA em múltiplos setores (saúde, educação, transporte).
• Inclui prompts de ideação, matrizes de impacto-esforço e grids de desempenho para selecionar ideias de alto impacto e viáveis.
• Ideal para workshops e sessões estratégicas de inovação, garantindo inovação alinhada às necessidades reais do usuário.

5. People + AI Guidebook do Google

https://pair.withgoogle.com/guidebook/

Criado pelo time People + AI Research (PAIR) do Google, reúne métodos, casos de uso e padrões de design para ajudar a criar soluções de IA impactantes.

Principais temas:

• Começando com IA centrada no humano: Avaliação se IA agrega valor, definição de expectativas e comunicação de benefícios.
• Usando IA em produtos: Balanceamento entre automação e controle do usuário, gestão de trade-offs entre precisão e abrangência.
• Onboarding de usuários: Tornar a exploração segura e explicativa, ancorando em elementos já familiares ao usuário.
• Explicação da IA: Demonstrar capacidades e limitações da IA, comunicar grau de confiança e prover explicações contextuais.
• Construção responsável de datasets: Envolvimento de especialistas, design cuidadoso para etiquetadores de dados e manutenção responsável dos datasets.
• Construção e calibração de confiança: Transparência sobre privacidade, responsabilidade por erros e criação de canais de feedback.
• Equilíbrio controle-automação: Automação gradual e devolução do controle ao usuário sempre que necessário.
• Suporte em caso de falhas: Planejamento para resolução de erros e mecanismos de recuperação para o usuário.

Esses cinco frameworks proporcionam base para projetar IA que se integra à vida cotidiana — de robôs interativos a apps organizacionais. Abordar a IA com frameworks centrados no humano significa equilibrar capacidades técnicas e responsabilidade, questionar a real necessidade de IA nos casos de uso e construir sistemas que aprendem com o feedback contínuo do usuário.

Centralidade no Usuário e Responsabilidade Ética

Todos os frameworks destacam a importância de colocar a necessidade do usuário no centro do processo — seja ao identificar a intenção por trás do uso da IA (IBM) ou ao permitir feedback e contestação (Google, Google PAIR). Essencialmente, não basta “fazer para o usuário”, mas sim “fazer com o usuário”, fomentando um ciclo contínuo de aprimoramento e adaptação baseado no seu contexto real.

Transparência e Explicabilidade

O foco em explicabilidade, principalmente nos frameworks do Google, reflete uma demanda crescente por sistemas transparentes, onde o usuário compreende como a IA chega a decisões e sabe quando pode questionar ou intervir. Isso é vital para construir confiança e promover o uso responsável, especialmente em cenários sensíveis como saúde e finanças.

Flexibilidade e Colaboração Multidisciplinar

A adoção de kits e playbooks colaborativos (Microsoft HAX, CMU Brainstorming Kit) revela a complexidade dos projetos de IA, que exigem times multidisciplinares e processos iterativos de design, incluindo desenvolvedores, pesquisadores, business, domínio e usuários finais.

Dados e Privacidade

Há menção recorrente à governança ética dos dados, desde a coleta responsável até o envolvimento direto de especialistas durante o tratamento e manutenção dos datasets (Google PAIR). Esse direcionamento é vital devido a possíveis vieses, uso indevido e riscos à privacidade.

Equilíbrio Automação–Agência Humana

Os frameworks defendem que a automação deve ser progressiva e sempre oferecer a possibilidade de devolução do controle ao usuário em situações de erro ou necessidade de supervisão (Microsoft, Google PAIR). Isso fomenta experiências mais seguras e adaptativas, reduzindo frustrações e riscos.

Iteração, Feedback Contínuo e Aprimoramento

O ciclo de aprendizagem e evolução com base no feedback do usuário fecha o loop (IBM, Google, Microsoft, CMU), garantindo que sistemas de IA não sejam rígidos, mas aprendam e melhorem conforme seu uso real.

Considerações Finais

Os frameworks analisados mostram caminhos sólidos para o design de IA centrados no humano, recomendando práticas de transparência, ética, adaptação contínua, colaboração multidisciplinar e foco genuíno nas necessidades reais dos usuários. A complexidade da IA não pode afastar a simplicidade, clareza e empatia do bom design — esse me parece ser o maior desafio para designers de hoje e do futuro próximo.

Ubiratan Silva: Product and Service Design Lead, Doutorando em Design pela UFRGS, Mestre em Design pela Unisinos e Bacharel em Comunicação Social - Publicidade e Propaganda UFRGS, Liderança em Design, CEO do Online UX Team. Especialista em Estratégia de Produto e IA | +25 anos em UX/UI | Educador, Mentor e Pesquisador em Design e Inteligência Artificial.

https://www.linkedin.com/in/ubiratansilva