É possível desligar IA? Entenda como funciona

A possibilidade de desligar IA depende de como cada sistema funciona. Uma ferramenta usada apenas para responder perguntas é diferente de uma inteligência artificial que realiza tarefas automaticamente ou interage com outros programas.

Essa diferença é importante para entender como funcionam os recursos usados para interromper uma IA e por que eles podem ser mais complexos em alguns casos.

O que significa desligar uma inteligência artificial?

Desligar IA significa interromper o funcionamento de um sistema específico. Isso pode envolver desligar os computadores ou servidores que executam o programa ou interromper os serviços necessários para seu funcionamento.

Em sistemas mais simples, a interrupção pode ser direta. Já uma IA que depende de outros programas ou consegue realizar tarefas automaticamente pode exigir mais etapas.

Por isso, é importante diferenciar desligar uma IA específica de desligar a inteligência artificial como um todo. Existem milhares de sistemas de IA, desenvolvidos e controlados por empresas e organizações diferentes.

O que é o “kill switch” de uma IA?

Kill switch é um recurso usado para interromper o funcionamento de um sistema. Em português, pode ser entendido como botão de desligamento ou parada de emergência.

Em uma IA, ele pode permitir que uma pessoa responsável interrompa o sistema quando necessário. O recurso pode ser um botão, um comando ou outro procedimento criado para essa finalidade.

A forma de funcionamento depende de cada sistema. Por isso, não existe um modelo único de kill switch para todas as inteligências artificiais.

Por que pode ser mais difícil desligar uma IA que age sozinha?

Uma IA que apenas responde a perguntas tem menos etapas envolvidas do que uma que consegue realizar tarefas automaticamente.

O professor Hussein Abbass, da Universidade de Nova Gales do Sul (UNSW), apresenta três níveis para explicar como o acesso a outros sistemas pode dificultar a interrupção:

• Ambiente controlado: o sistema permanece nos computadores ou servidores em que foi instalado.

• Acesso a outros sistemas: o programa passa a poder agir em diferentes sistemas, arquivos, computadores ou programas.

• Atuação em vários sistemas: a IA pode interagir com diferentes ambientes, tornando a interrupção mais complexa.

Assim, desligar IA pode exigir mais ações quando ela está conectada a outros sistemas.

Veja também: Ferramentas de IA: como usar com segurança e proteger seus dados

Existe uma lei que prevê um botão de parada para IA?

A União Europeia tem regras específicas para sistemas de inteligência artificial considerados de alto risco.

O artigo 14 do AI Act, o regulamento europeu de inteligência artificial, prevê supervisão humana para esses sistemas. 

Entre as medidas está a possibilidade de interromper o sistema por meio de um botão de parada ou procedimento semelhante, quando isso for adequado e proporcional ao risco e ao contexto de uso.

Isso não significa que todas as IAs terão um botão de desligamento. A regra se aplica aos sistemas classificados como de alto risco.

Para determinados sistemas de alto risco, essas regras terão aplicação a partir de 2 de dezembro de 2027. Já para sistemas de alto risco incorporados a determinados produtos regulamentados, a aplicação está prevista para 2 de agosto de 2028.

O que pode acontecer ao interromper uma IA de repente?

Uma parada repentina pode interromper uma tarefa em andamento, deixar informações incompletas ou afetar outros sistemas conectados.

Por isso, em sistemas mais complexos, não basta criar uma forma de desligamento. Também é necessário considerar como o sistema deve se comportar quando for interrompido.

Esse cuidado é especialmente importante quando a IA participa de processos que envolvem outras ferramentas ou serviços.

Perguntas frequentes sobre desligar IA

Existe um botão para desligar qualquer IA?

Não. Cada sistema possui seus próprios meios de controle.

É possível desligar uma inteligência artificial?

Sim. Uma IA específica pode ser interrompida quando existe uma forma de controlar seu funcionamento.

Toda IA precisa ter um “kill switch”?

Não. Isso depende do sistema, de sua finalidade, dos riscos envolvidos e das regras aplicáveis.

O que a União Europeia determina sobre o desligamento de IA?

O AI Act prevê supervisão humana para sistemas de IA de alto risco e inclui a possibilidade de interrompê-los por meio de um botão de parada ou procedimento semelhante, quando adequado e proporcional.

Afinal, dá para desligar uma IA?

Sim, é possível desligar uma IA específica. A dificuldade depende de como o sistema funciona e dos recursos aos quais ele tem acesso.

O kill switch é uma das formas de permitir essa interrupção, mas não existe um botão capaz de desligar todas as inteligências artificiais.

Quanto mais uma IA interage com outros sistemas, maior pode ser a complexidade para interrompê-la.