28/09/2021 - Reuniões vazadas mostram que o robô dependerá fortemente do reconhecimento facial e do comportamento do usuário, mas fontes que trabalharam no Astro dizem que o robô tem falhas. O novo robô da Amazon, chamado Astro, foi projetado para rastrear o comportamento de todos em sua casa para ajudá-lo a realizar suas tarefas de vigilância e ajudante, de acordo com documentos internos de desenvolvimento vazados e gravações de vídeo de reuniões de desenvolvimento de software Astro obtidas pela Motherboard.
O sistema de reconhecimento de pessoas do sistema é altamente falho, de acordo com duas fontes que trabalharam no projeto. Os documentos, que usam amplamente o codinome interno do Astro "Vesta" para o dispositivo, fornecem informações abrangentes sobre o design do robô, a filosofia da Amazon, como o dispositivo rastreia o comportamento do cliente, bem como fluxogramas de como ele determina quem é um "estranho" e se deve levar qualquer tipo de "atividade de investigação" contra eles.
Sentinela
Em seu vídeo de anúncio, a Amazon diz que o Astro foi projetado para dar "tranquilidade" aos seus proprietários. Em primeiro lugar, o Astro é um dispositivo de vigilância que rastreia você e todos que entram em sua casa. Quando um usuário compra o robô de $ 999, os clientes são solicitados a "registrar" seu rosto e voz, bem como os rostos e vozes de qualquer pessoa que provavelmente esteja em uma casa, para que Astro possa saber quem deveria estar lá.
Leia também - Como os planos de saúde, recordistas em reclamação, se tornaram tão poderosos
Um dos arquivos de documentação interna apresentados em uma reunião de desenvolvimento e obtidos pela Motherboard descreve como o Astro patrulha a casa de um proprietário e tenta identificar as pessoas que encontra. Outros arquivos referem-se a “Sentry”, os componentes e software que controlam os recursos de segurança do dispositivo. O software Sentry inclui integração com câmeras Ring e Alexa Guard, o serviço de segurança doméstica da Amazon.
O documento da reunião explica o processo de uma maneira muito mais direta do que sugere o marketing fofinho da Amazon.
“Vesta patrulha a casa lenta e inteligentemente quando pessoas desconhecidas estão por perto, movendo-se de um ponto de varredura para outro (a melhor localização e pose em qualquer espaço para olhar ao redor) procurando e ouvindo atividades incomuns”, diz um dos arquivos. "Vesta se move para um ponto de varredura predeterminado e posa para escanear qualquer sala, olhando além e sobre os obstáculos em seu caminho. Vesta completa uma patrulha completa quando conclui a varredura de todos os pontos de varredura na planta baixa."
"Astro é terrível e quase certamente se jogará escada abaixo se tiver a oportunidade."
Se o robô detectar algo fora do comum, como ver uma pessoa que não reconhece, ou um som como vidro quebrando ou um alarme de incêndio, ele investigará mais a fundo, incluindo seguir uma pessoa não identificada pela casa, o arquivo lê.
“O Sentinela é obrigado a investigar qualquer pessoa não reconhecida detectada por ele ou evento de áudio em certo conjunto de condições”, diz um arquivo. "O Sentinela deve primeiro tentar identificar a pessoa se ela ainda não for reconhecida por até 30s [segundos]. Quando a pessoa for identificada como desconhecida ou 30s passados, o Sentinela deve começar a seguir a pessoa até que o Modo Sentinela seja desativado."
Um fluxograma apresentado durante a reunião explica exatamente o que acontece quando o Astro detecta uma "presença" e como ele é projetado para "investigar estranhos". Se um usuário desativou a "investigação de estranhos", o robô ignorará um estranho.
Se estiver definido como "modo Sentinela" ou modo de patrulha, ele abordará o estranho ou o seguirá e iniciará uma série de "atividades de investigação", que a Amazon descreve como "uma série de ações que o Sentinela executa para investigar o áudio ou a presença enquanto gravação." Geralmente, se o Astro iniciar uma investigação, ele seguirá o estranho, gravará áudio e vídeo dele e, em seguida, carregará automaticamente uma gravação que o usuário poderá ver mais tarde.
Um usuário pode dizer ao robô para iniciar ou interromper uma patrulha por meio de um aplicativo complementar ou dizendo uma frase específica em voz alta, como "Echo, peça ao astro para iniciar o monitoramento doméstico" ou "Alex, pare de se mover".
O usuário também pode colocar o robô em uma configuração "Ausente", para sinalizar que o usuário não está em casa e precisa que o robô faça patrulhas periódicas por conta própria. O usuário pode transmitir ao vivo e ver o que o robô vê em outro dispositivo, como o telefone, enquanto não está em casa. Os usuários também podem iniciar videochamadas bidirecionais por meio do aplicativo complementar e do robô.
“Quando o vesta completa um loop de patrulha completo, um cronograma para a próxima patrulha é criado, após uma hora do horário da atividade de patrulha atual”, diz um dos arquivos.
Um Robô Defeituoso
Os desenvolvedores que trabalharam no Astro dizem que as versões do robô em que trabalharam não funcionaram bem.
"Astro é terrível e quase certamente se jogará escada abaixo se tiver a oportunidade. A detecção de pessoas não é confiável na melhor das hipóteses, tornando a proposta de segurança doméstica risível", disse uma fonte que trabalhou no projeto. "O aparelho parece frágil para algo de custo absurdo. O mastro quebrou em vários aparelhos, travando-se na posição estendida ou retraída, e não tem como enviar para a Amazon quando isso acontece."
"Eles também estão promovendo isso como um dispositivo de acessibilidade, mas com os mastros quebrando e a possibilidade de que a qualquer momento ele cometa suicídio em um lance de escada, é, na melhor das hipóteses, absurdo e marketing absurdo e, na pior, potencialmente perigoso para quem realmente confia nele para fins de acessibilidade", disse a fonte.
Outra fonte que trabalhou no projeto mencionou privacidade e navegação como principais preocupações. "Quanto às minhas opiniões pessoais sobre o dispositivo, é um desastre que não está pronto para ser lançado", disseram eles. "Eles se quebram e quase certamente cairão de escadas nas casas dos usuários do mundo real. Além disso, também é (na minha opinião) um pesadelo de privacidade que é uma acusação de nossa sociedade e como trocamos privacidade por conveniência com dispositivos como o Vesta."
A fonte também corroborou que as habilidades de reconhecimento facial do Astro funcionam mal, o que é preocupante para um dispositivo projetado principalmente para seguir as pessoas e determinar se elas são estranhas ou não.
O robô também se integrará intimamente ao sistema de segurança Ring da Amazon, inclusive respondendo a "eventos Ring", como o alarme de incêndio mencionado acima, e patrulhando automaticamente quando o sistema de segurança estiver desativado.
Kristy Schmidt, gerente sênior de relações públicas para dispositivos e serviços da Amazon, disse ao Motherboard em um e-mail que, em relação ao reconhecimento da pessoa, "além de consultar vários bolsistas da Amazon especializados em visão computacional, também consultamos um especialista externo em viés algorítmico, Ayanna Howard, reitora da Ohio State University College of Engineering, para revisar as etapas que tomamos para aprimorar a imparcialidade desse recurso", repetindo o que a Amazon disse em uma postagem no blog discutindo o recurso de identificação visual da empresa.
Leia também - A Geração “Floco De Neve”: Pessoas Sensíveis Que Se Ofendem Por Tudo
"Essas caracterizações do desempenho, do mastro e dos sistemas de segurança do Astro são simplesmente imprecisas. O Astro passou por testes rigorosos de qualidade e segurança, incluindo dezenas de milhares de horas de testes com participantes beta. Isso inclui testes abrangentes no sistema de segurança avançado do Astro, que foi projetado para evitar objetos, detectar escadas e parar o dispositivo onde e quando necessário", acrescentou Schmidt em um e-mail.
"A Amazon foi cuidadosa no design, teste e aumento de suas abordagens, conforme impulsionado por dados e feedback, a fim de minimizar o viés de seu recurso de ID visual. Eles definiram metas de desempenho relevantes para os casos de uso de seus produtos, treinaram seus modelos em um grande volume de dados incrivelmente diversos e compartilhou detalhes suficientes de seus métodos comigo em um esforço genuíno para garantir que o recurso não apenas funcione estatisticamente bem para todos os seus clientes, mas também continue melhorando ao longo do tempo em nome desses clientes", Dr. Howard disse, de acordo com uma citação fornecida por Schmidt.
Seguindo clientes em todos os lugares
Para que o Astro - que a Amazon diz que "melhorará a vida dos clientes de uma forma que os eletrônicos de consumo tradicionais não conseguem" - funcione bem, o robô deve coletar dados sobre seu comportamento e sua casa.
“A Vesta precisa aprender o comportamento do cliente”, afirma um documento que explica a filosofia de “robótica social” da Amazon.
"O objetivo é tornar o Vesta um 'robô inteligente' e permitir algumas interações simples, mas mágicas, com as pessoas", afirma o documento de robótica social. Para fazer isso, o Astro precisa mapear completamente a casa de um usuário, criando um mapa de calor de "pontos de estrangulamento" e áreas de alto tráfego onde o robô provavelmente ficará preso ou "lugares onde será facilmente atingido por humanos", como corredores, portas e cozinha.
O Astro deve aprender com o tempo, o que significa que deve rastrear o que os humanos estão fazendo, para onde estão indo e onde provavelmente se reunirão.
"É, na melhor das hipóteses, absurdo e marketing absurdo e, na pior, potencialmente perigoso para qualquer um que realmente confie nele para fins de acessibilidade."
"A mobilidade no dispositivo precisa funcionar perfeitamente. Estou dizendo perfeito aqui porque, se não estiver funcionando perfeitamente, não podemos esperar que a robótica social seja bem-vinda [na casa das pessoas]", afirma um desenvolvedor que trabalhou no Vesta em uma reunião.
Para ser perfeito, o Astro deve "parecer 'inteligente' para os usuários", "precisa interagir bem com as pessoas, levando em consideração as normas sociais", precisa acompanhar e aprender com o comportamento do cliente e "precisa ter algum nível de autonomia . Está disponível quando necessário e 'quer' estar perto dos humanos, mas não sob os pés."
Schmidt disse ao Motherboard que "projetamos o Astro para lidar com grande parte do processamento de dados no dispositivo, incluindo as imagens e os dados brutos do sensor que ele processa enquanto se move pela casa. Isso ajuda o Astro a responder rapidamente ao seu ambiente. Além disso, seu visual O ID é armazenado no dispositivo e o Astro usa o processamento no dispositivo para reconhecê-lo."
Os programadores da Amazon também mencionaram em uma reunião que determinaram as distâncias ideais a partir das quais o Astro deve interagir com os clientes. Por exemplo, na maioria das vezes deve ser "distante socialmente", ou seja, de 1 a 1,5 metros de distância de um usuário. No entanto, "quando um usuário está comprando algo da Amazon, o dispositivo sabe que a [tela] precisa estar em um estado visível. 40 centímetros de distância" do cliente.
Jason Koebler e Jordan Pearson contribuíram com reportagens.
Fonte: https://www.vice.com/