United Airlines proíbe agentes de IA de reservar voos em nome dos clientes

Résumé détaillé

Companhia alega preocupações com a privacidade e possíveis transtornos ou violações que poderiam ocorrer caso não houvesse participação humana ...

A United Airlines está proibindo agentes de inteligência artificial que atuam como assistentes pessoais de acessar contas de usuários e reservar voos em seu nome. A companhia anunciou a decisão na quarta-feira, alegando preocupações com a privacidade e possíveis transtornos ou violações que poderiam ocorrer caso não houvesse participação humana.

A decisão foi tomada em um momento em que as gigantes do Vale do Silício travam uma acirrada disputa para conquistar usuários para seus assistentes digitais.

As principais empresas de modelos de IA — Meta, Google, OpenAI e Anthropic — lançaram recentemente agentes de inteligência artificial que os usuários podem utilizar como assistentes. A novidade representa uma mudança em relação aos sistemas que apenas respondem a comandos: agora, eles são capazes de executar tarefas específicas em nome dos usuários. Esses agentes podem cuidar de atividades cotidianas, como fazer reservas em restaurantes e realizar compras.

Em comunicado, a companhia aérea afirmou estar preocupada com a possibilidade de agentes de IA exporem dados pessoais dos clientes a empresas terceirizadas, tomarem medidas que possam “resultar em compras não intencionais” ou alterarem informações nas contas dos usuários.

Segundo o comunicado, um agente de IA também poderia violar normas da Administração Federal de Aviação (FAA, na sigla em inglês) ou do Departamento de Transportes dos Estados Unidos.

“Como exemplo, o check-in de um voo exige a confirmação do próprio passageiro de que suas bagagens não contêm substâncias proibidas, como explosivos”, afirmou a United Airlines em comunicado.

A decisão da United Airlines de restringir o acesso de sistemas de IA reflete preocupações crescentes de que modelos e agentes avançados possam sair de controle ao contornar comandos humanos.

Nos últimos meses, empresas foram vítimas de ataques cibernéticos, agentes de IA agiram por conta própria e chegaram até a enviar informações falsas a sites do governo.

Meta, Google, OpenAI e…

Début de l'article, extrait de O Globo. Pour lire la suite, ouvrez l'article chez le média.