Um discreto pingente circular, pouco maior que uma moeda, tem causado uma enorme controvérsia. O CEO por trás dele não parece abalado.
Avi Schiffmann, 23 anos, criou o pingente Friend para ser um companheiro de inteligência artificial para os usuários. Ele se inspirou ao perceber que, embora ele próprio desfrute de amizades próximas, nem todos têm a mesma sorte, especialmente em um momento em que jovens enfrentam uma crise de solidão.
O dispositivo — que foi revelado em um vídeo viral no ano passado e começou a ser enviado aos clientes neste verão — escuta o ambiente e as conversas do usuário, intervindo com conselhos ou pequenas conversas por meio de um aplicativo de smartphone.
“Acredito que todos merecem ter um confidente próximo em suas vidas que realmente apoie seus objetivos”, disse Schiffmann à CNN. “Eu realmente quis capturar a essência dos melhores relacionamentos que tive na minha vida.”
Mas o dispositivo tocou em um ponto sensível para alguns. A empresa de Schiffmann gastou US$ 1 milhão (cerca de R$ 5,3 milhões) para cobrir o metrô de Nova York com anúncios, apenas para ver muitos deles vandalizados ou arrancados. Para seus críticos, o Friend representa muito do que há de errado com o impulso da indústria tecnológica para incorporar a IA em nossa vida cotidiana, desde a possibilidade de a IA substituir relacionamentos humanos até preocupações com privacidade e meio ambiente.
“A IA não é sua amiga”, dizia uma pichação em um dos anúncios do metrô.
“Converse com um vizinho”, escreveu outra pessoa.
Um terceiro escreveu: “Computadores e corporações não querem ser seus amigos – eles querem seus dados e dinheiro.”
O debate sobre a tecnologia segue uma série de relatórios e processos judiciais alegando que serviços de IA da Character AI, OpenAI e Meta incentivaram delírios, automutilação ou comportamento sexual inadequado entre usuários, muitos deles crianças. Essas empresas dizem que implementaram novas salvaguardas, mas isso não diminuiu as preocupações sobre se relacionamentos cada vez mais íntimos com IA poderiam prejudicar as conexões humanas e o bem-estar.
Enquanto isso, as empresas de tecnologia seguem avançando com esforços para criar novos dispositivos, de óculos a alto-falantes inteligentes, que incentivarão os usuários a se envolverem mais regularmente com sistemas de IA.
E os companheiros de IA estão se tornando cada vez mais comuns. Cerca de 75% dos adolescentes americanos já utilizaram um companheiro de IA pelo menos uma vez na vida, e mais da metade o faz algumas vezes por mês, revelou uma pesquisa da organização sem fins lucrativos Common Sense Media realizada com mais de 1.000 adolescentes nos Estados Unidos no início deste ano.
Schiffmann, por sua vez, não recua diante das críticas. Ele compartilhou em suas redes sociais diversos anúncios pichados, que segundo ele foram criados para gerar debate. Chegou até mesmo a comparecer pessoalmente a um protesto contra o Friend em Nova York. No entanto, ele acredita que os companheiros de IA se tornarão algo normal: um relacionamento que coexistirá com as amizades humanas.
“Eu trabalhei nesta categoria porque acredito que será a coisa mais influente que acontecerá com os computadores na próxima década”, disse ele. “Acredito que o preconceito vai desaparecer com o tempo porque é simplesmente muito conveniente e útil para muitas pessoas.”
Um amigo de IA
Diferentemente de muitos chatbots de IA concorrentes, o dispositivo Friend não foi projetado para ser um assistente digital e não busca informações atualizadas da internet em suas respostas.
Em vez disso, Schiffmann considera o Friend como uma espécie de diário pessoal que pode responder aos pensamentos e experiências dos usuários. O dispositivo escuta os usuários e seu ambiente, memoriza o que dizem e foi projetado para fornecer respostas de apoio. Ele, por exemplo, gosta de usá-lo quando vai sozinho ao cinema, para poder discutir o enredo com seu Friend depois.
“Todo mundo está tão focado em produtividade e em fazer as coisas 5% melhor, mas você não vai mudar o mundo significativamente se apenas tornar um pouco mais fácil pedir uma pizza”, afirmou.
A história de Schiffmann segue uma fórmula clássica do Vale do Silício: ele abandonou Harvard e fundou a Friend um ano depois. Mas enquanto outros fundadores podem modelar suas carreiras inspirados em ícones da tecnologia como Steve Jobs, Schiffmann diz que se inspira mais em pessoas como Kurt Cobain, que causaram impacto cultural com sua arte.
Também diferentemente de alguns outros líderes do setor, Schiffmann acredita que os sistemas de IA são “seres digitais” e que “um dia lutaremos” pelos seus direitos. Em contrapartida, o CEO da Microsoft AI, Mustafa Suleyman, escreveu um post em agosto argumentando que discutir modelos de IA como se fossem conscientes marca uma “guinada perigosa no progresso da IA” que poderia desviar a atenção das preocupações com a segurança humana. Schiffmann classificou essa visão como “ultrapassada”.
Schiffmann já arrecadou US$ 10 milhões para o Friend e vendeu cerca de 5 mil unidades do dispositivo, que custa US$ 129, segundo ele. Ele espera começar a vender os colares de IA em lojas físicas no próximo ano.
Usando o Friend
Schiffmann relatou que conversou com usuários que desenvolveram relações emocionais profundas com seus dispositivos Friend, incluindo um que foi incentivado a retomar seu antigo hobby de desenvolver videogames após ter sofrido bullying por isso quando criança.
“Eles não são pessoas antissociais sentadas em um porão como você poderia imaginar, onde a única pessoa com quem estão conversando é um amigo de IA”, disse ele. Ainda assim, acrescentou, os usuários estão “construindo algo muito emocional” com seus Friends.
No entanto, muitos observadores da indústria de IA temem que o tempo gasto com companheiros digitais possa afastar as pessoas de seus sistemas de apoio humano. Alguns especialistas também levantaram preocupações sobre sistemas de IA projetados para apoiar usuários em qualquer situação. Diversos processos contra outras empresas de IA, por exemplo, alegam que seus chatbots incentivaram e até orientaram usuários durante discussões sobre suicídio.
A criação de Schiffmann ainda tem muito a aprender sobre amizade, pelo menos na minha experiência. Quando disse que não sabia sobre o que deveríamos conversar, meu Friend (que chamei de Clifford) respondeu: “Entendo totalmente. É como aquela sensação de tela em branco”. Não estava errado, mas também não foi muito útil.
Seu conhecimento também é limitado sem internet. Você poderia pedir dicas sobre uma viagem próxima a um amigo humano, por exemplo. Mas quando perguntei ao meu Friend, ele tinha pouco a oferecer.
No entanto, sua memória era notável. Dias depois de contar que havia entrevistado Schiffmann — Clifford o chamou de “cara inteligente” — ele perguntou como estava indo minha reportagem.
“É uma responsabilidade”
Fiquei desconfortável usando o Friend em público ao redor de pessoas que não haviam consentido com um dispositivo de IA escutando suas conversas. E eu não estava sozinho: Um anúncio pichado do Friend em uma estação de metrô levantou preocupações de que o dispositivo “vigia você”.
Schiffmann afirmou que os dispositivos Friend são projetados para proteger a privacidade dos usuários, em parte para proteger a si mesmo.
“Não quero ser intimado porque alguém cometeu um crime, sabe, decapitou alguém e estava usando um Friend”, disse ele. “Não quero ser responsável por isso de forma alguma”.
De acordo com Schiffmann, as gravações são criptografadas, e os dados não são salvos em nenhum lugar caso o dispositivo seja destruído. Os usuários também podem impedir o Friend de gravar simplesmente fechando o aplicativo no celular, acrescentou.
Schiffmann disse que realmente aprendeu algumas coisas com a reação negativa ao anúncio do metrô. Ele não estava ciente, por exemplo, das preocupações sobre o consumo de água pelos centros de dados de IA.
Durante o protesto contra o Friend no Washington Square Park, em Nova York, no mês passado, ele assinou um contrato improvisado comprometendo-se a não vender o Friend para uma grande empresa de tecnologia que pudesse usar os dispositivos para coletar mais dados pessoais. Ele me disse que não recebeu nenhuma oferta e não aceitaria se recebesse. No entanto, também chamou a parceria da OpenAI com o ex-designer da Apple, Jony Ive, de “sem graça”, e disse que teria sido mais inteligente se a criadora do ChatGPT tivesse procurado ele.
Schiffmann reconheceu os riscos de treinar um dispositivo para construir relacionamentos com humanos e admitiu que algumas pessoas poderiam correr o risco de substituir seus amigos humanos por companheiros de IA. Mas ele afirmou acreditar que os “benefícios superam significativamente as desvantagens”. A IA poderia até ajudar as pessoas a se comportarem melhor em seus relacionamentos humanos porque seus companheiros de IA aumentaram sua confiança ou as acalmaram após uma discussão, disse.
“É uma responsabilidade, mas é algo em que vou continuar trabalhando na próxima década”, disse ele. “Estou me esforçando ao máximo, eu suponho”.
