Monitores de sono estão coletando ondas cerebrais para treinar modelos de IA sem você saber

Fabricantes de faixas que monitoram o sono agora usam as ondas cerebrais dos clientes para treinar modelos de inteligência artificial. E a maioria não avisou isso na política de privacidade, segundo uma investigação de um ano da revista Science com o Pulitzer Center.

O levantamento encontrou dezenas de milhões de horas de eletroencefalografia (EEG) que empresas de neurotecnologia de consumo guardam. Nove delas admitem construir um modelo fundacional do cérebro, treinado com sinais elétricos em vez de texto.

• Link de compra de monitores de sono na Amazon
• Link de compra de smartwatches com monitoramento de sono na KaBuM

Entre os casos, o mais detalhado é o da canadense Interaxon, dona da Muse. A empresa já treinou um modelo com 50 mil horas de EEG de usuários e só mudou a política depois que a Science apontou a omissão.

Como a Muse transforma uma noite de sono em dado de treino?

Adnan Jinnah, de Leicester, na Inglaterra, prende a faixa na testa meia hora antes de dormir, aperta um botão e abre o aplicativo.

Durante a noite, os sensores registram atividade cerebral, batimentos e fluxo de sangue no cérebro. De manhã, ele recebe um relatório do sono.

Jinnah usa o aparelho há mais de quatro anos para entender como remédios e estresse mexem com o descanso dele. Ele não sabia que esses registros podiam alimentar um modelo de IA.

Segundo a Science, ele reagiu com resignação e comparou a situação ao que as grandes empresas de tecnologia fazem com dados, mas disse que os usuários deveriam ser consultados.

A Muse S Athena custa US$ 474,99 no site oficial, perto de R$ 2.611 na cotação de hoje, sem impostos de importação, e não é vendida no Brasil. No vídeo abaixo, do canal da marca, aparece o ajuste do sensor na cabeça.

Nome, e-mail e endereço são removidos antes do uso, diz a Interaxon. A empresa pretende aproveitar todo o acervo elegível, segundo a diretora de marketing Nadia Kumentas. Depois da reportagem, a política foi reescrita, e a empresa admitiu que o aviso deveria ter existido.

“Concordamos que os usuários devem ser explicitamente informados.”

Nadia Kumentas, diretora de marketing da Interaxon, à Science

Jinnah e os outros usuários antigos não ganham nada com a mudança, porque um registro que entra no treinamento é quase impossível de remover. A Science estima que dezenas de milhares de donos da Muse estejam nessa situação.

O que a Science encontrou nas políticas de 57 empresas

A revista leu as políticas de privacidade de 57 empresas de todo o mundo que coletam EEG de consumidores. O retrato é de um setor quase sem regra. Os números abaixo vêm dessa leitura:

• Quatro não tinham política de privacidade nenhuma, e 11 só tratavam de dados de visitantes do site
• Entre as demais, perto de dois terços citam explicitamente a coleta de dados cerebrais
• Todas menos uma permitem repassar dados a terceiros em forma anônima ou agregada, sem dizer se isso inclui o EEG
• Só seis afirmam que não vendem dados cerebrais; outras 17 dizem, em termos gerais, que não vendem informações pessoais
• Mais de dois terços autorizam a transferência dos dados em caso de venda da empresa, e o restante não especifica

Transferência corporativa preocupa porque várias startups do ramo disseram à Science que o plano é construir a tecnologia e ser compradas. Uma empresa pequena e cuidadosa pode entregar o acervo inteiro a uma dona maior e menos criteriosa.

Já a Emotiv, de San Francisco, treina o que chama de large brain model em parte com registros de clientes dos aparelhos mais caros. Depois das perguntas da revista, passou a pedir consentimento opt-in na política.

Na Piramidal, o modelo foi treinado com mais de 4 milhões de horas de bases públicas e hospitais, e um sistema derivado acertou nove de dez convulsões quando foi testado num piloto com a Cleveland Clinic.

Quanto um aparelho de um a seis eletrodos consegue revelar?

Faixas e fones de consumo usam de um a seis eletrodos, contra 19 a 25 dos equipamentos hospitalares. Eles cobrem só uma região da cabeça.

O EEG diz bem quando o cérebro reage, mas não onde. Estruturas profundas, como a amígdala e o hipocampo, ficam fora do alcance.

Por isso parte dos especialistas acha que esses aparelhos revelam pouco além de mudanças amplas, como a hora em que a pessoa adormece.

Outros discordam. Rafael Yuste, da Neurorights Foundation, avisa que, com IA, sinais captados na superfície podem bastar para decodificar emoções e personalidade.

Mercado de R$ 105 bilhões e uma máscara de dormir que vazava EEG

O mercado de neurotecnologia está avaliado em US$ 19,19 bilhões neste ano, perto de R$ 105 bilhões. Em 2034, deve passar de US$ 33 bilhões (R$ 181 bilhões), se as projeções se confirmarem.

A Apple patenteou em 2023 fones que leem EEG, e a Meta lançou no ano passado a pulseira Neural Band, que capta sinais dos músculos do pulso.

Falhas básicas já apareceram, como a de um engenheiro que em fevereiro achou credenciais fixas no aplicativo de uma máscara de dormir inteligente. As mesmas credenciais valiam para todos os aparelhos, como se fossem uma chave mestra. Com elas, ele acessou o EEG de outros clientes.

A coleta em escala também acontece fora do quarto de dormir… A startup Coundit, de San Francisco, reuniu 10 mil horas de dados neurais de milhares de pacientes para traduzir sinais em linguagem. Já a Meta testa o BrainQwerty, que converte atividade cerebral em digitação com 61% de acerto por palavra.

Leia também:

• Samsung lança Health Assistant, assistente de saúde com IA integrado ao ecossistema Galaxy
• Oura Ring 5 é lançado com design mais fino, novos sensores e monitoramento de pressão arterial
• China acelera testes humanos de interface cérebro-computador para rivalizar com a Neuralink

Chile já protege o cérebro na Constituição; no Brasil, vale a LGPD

O Chile incluiu os dados cerebrais na Constituição em 2021. Dois anos depois, a Suprema Corte do país mandou a Emotiv apagar os registros do ex-senador Guido Girardi. Nos Estados Unidos, Colorado e Califórnia passaram a tratar dado neural como informação sensível, com direito a acesso e exclusão.

No Brasil não existe lei específica, mas a LGPD classifica dado sobre saúde como sensível e exige consentimento específico e destacado para cada finalidade. Treinar um modelo de IA com o EEG de quem comprou o aparelho para dormir melhor é uma finalidade nova. Ela precisaria de aviso próprio.

Nenhuma empresa admite vender o acervo por enquanto, embora o assunto seja recorrente nos escritórios, segundo a professora de direito Nita Farahany, da Duke.

Já a chinesa MATRIX planeja um mercado em que o usuário aluga os próprios dados de sono e recebe pagamento de quem quiser comprá-los, caso de pesquisadores, farmacêuticas e desenvolvedores de IA.

Fonte(s): Science e Tom’s Hardware