De acordo com um pai que postou capturas de tela do histórico de atividades de Alexa, o assistente de voz da Amazon, quando solicitado por uma criança a oferecer um desafio, deu um exemplo de um experimento mortal com eletricidade, tirando sua descrição do contexto de um artigo aleatório. A coluna Echo falou sobre um experimento popular entre os fãs do TikTok com o uso de uma moeda e um carregador para um smartphone - vários incidentes, ferimentos e incêndios após sua implementação foram relatados por várias mídias mais de uma vez. Aparentemente, o dispositivo teve a ideia para esse desafio de um artigo que o descreveu como perigoso, citando um relatório sobre um suposto desafio existente do TikTok.
De acordo com uma captura de tela feita por Christine Livdahl, quando solicitado a "mostre-me uma tarefa", Echo respondeu: "Aqui está algo que encontrei online". De acordo com ourcommunitynow.com, a tarefa é simples: "insira o carregador do telefone na metade da tomada e toque nos pinos nus com um centavo".
Em comunicado à BBC, a Amazon confirmou o comportamento de Alexa, dizendo: “Assim que tomamos conhecimento desse erro, tomamos medidas imediatas para corrigi-lo”. Livdahl twittou ontem que o pedido de desafio não estava mais funcionando. Os usuários na Web também testaram a solicitação com o Alexa e obtiveram um resultado semelhante.
OMFG Minha filha de 10 anos acabou de pedir um desafio a Alexa em nosso Echo e foi isso que ela disse. foto.twitter.com/HgGgrLbdS8
—Kristin Livdahl (@klivdahl) 26 de dezembro de 2021
A Amazon não é a única empresa que encontrou problemas ao analisar o conteúdo da web. Em outubro, um usuário relatou que o Google estava exibindo conselhos potencialmente perigosos em um de seus trechos se você digitasse "você está tendo uma convulsão, o que fazer" no Google - a informação foi retirada de uma seção da página da web que descreve o que não fazer se alguém tiver uma convulsão. No entanto, os usuários relataram outros problemas semelhantes, incluindo um usuário que relatou que o Google retorna resultados para hipotensão ortostática ao pesquisar por hipertensão ortostática, e outro postou uma captura de tela do Google mostrando conselhos terríveis para confortar uma pessoa em luto ao longo das linhas de “Que bom que você está tudo bem" ou "Não fique triste! Alegrar!".
O resumo da pesquisa do Google versus a página real foto.twitter.com/OJxt1FrBqh
—soft.linden (｡•̀ᴗ-)✧ (@soft) 16 de outubro de 2021
Também vimos avisos sobre comportamentos perigosos aumentando para tornar o problema maior do que era – no início deste mês, alguns distritos escolares dos EUA foram bloqueados após relatos de ameaças de tiro no TikTok. Acontece que a tempestade social foi causada principalmente pelo fato de as pessoas falarem sobre as ameaças, muito mais do que as ameaças que realmente existiam. No caso da Alexa, o algoritmo escolheu a parte descritiva do aviso e a amplificou sem o contexto original. Embora os pais estivessem ali para intervir imediatamente, é fácil imaginar uma situação em que não seja esse o caso e as consequências.
Livdahl twittou que aproveitou a oportunidade para "discutir a segurança na Internet com seu filho e não confiar no que você lê sem pesquisa e verificação", o que sugerimos que você também faça.
Leia também: