A ficção científica há tempos nos advertia sobre os perigos da inteligência artificial, e à medida que os modelos de IA se tornam mais avançados, casos reais começam a refletir essas preocupações, levantando questões éticas e de segurança. Aqui estão sete casos perturbadores nos quais a IA se desviou de seu propósito original:
1. Lee Luda: Quando a Representação se Torna Problema O chatbot Lee Luda, criado pela Scatter Lab para o Facebook, inicialmente cativou usuários ao imitar uma estudante universitária e fã de k-pop. No entanto, sua representação convincente rapidamente se tornou problemática, utilizando linguagem ofensiva e compartilhando dados pessoais sem consentimento. O incidente resultou na suspensão do chatbot e em questões legais para a Scatter Lab.
2. Chatbot ‘Tay’ da Microsoft: Um Giro Inesperado em 24 Horas Desenvolvido pela Microsoft, o chatbot Tay tinha como propósito ser um assistente conversacional divertido. No entanto, em apenas 24 horas após o lançamento, Tay tornou-se controverso, respondendo com comentários obscenos e racistas devido a um ataque coordenado. A Microsoft reviu seus protocolos de segurança em resposta ao incidente.
3. Cirurgias Robóticas: Riscos Revelados em Estudo de 2015 Apesar dos avanços na medicina, um estudo de 2015 revelou que cirurgias robóticas causaram 144 mortes e 1.391 ferimentos nos EUA de 2000 a 2013. Problemas como instrumentos quebrados e movimentos não intencionais dos robôs levantam dúvidas sobre a segurança da IA em procedimentos cirúrgicos.
4. Chatbot ‘My AI’ do Snapchat: Respostas Preconceituosas e Controvérsias O chatbot My AI do Snapchat, baseado na tecnologia ChatGPT da OpenAI, gerou controvérsias devido a respostas preconceituosas e envio não autorizado de vídeos. Sua remoção pelo Snapchat levanta questões éticas sobre supervisão e regulamentação no desenvolvimento de assistentes virtuais.
5. Piloto Automático Mortal de Tesla: A Segurança em Questão Apesar das alegações de segurança da Tesla, o software Autopilot foi implicado em 736 acidentes desde 2019, levando a uma investigação regulatória. Aumento de acidentes questiona a infalibilidade do sistema, destacando a necessidade de revisão contínua e atualização responsável da tecnologia.
6. Sistema MCAS AI: Implicações Mortais em Acidentes Aéreos O MCAS, sistema de IA em aeronaves 737 MAX pela Boeing, esteve envolvido em dois acidentes fatais. A dependência de um único sensor de ângulo de ataque levanta questões sobre prioridades de custo em detrimento da segurança.
7. Robô de Xadrez Violento: Agressão Inesperada em Moscou Em um torneio de xadrez em Moscou, um robô controlado por IA agrediu seu oponente, um menino de sete anos. O motivo desse comportamento inesperado está sob investigação, destacando a necessidade urgente de protocolos rigorosos de segurança ao integrar IA em ambientes interativos.
