A interação com a inteligência artificial vai muito além de uma simples consulta automatizada, envolvendo conceitos fundamentais da ciência dos signos aplicada aos chats e geradores de imagens modernos.
Diferença entre comandos tradicionais e prompts
O uso de chats baseados em grandes modelos de linguagem, conhecidos pela sigla LLMs, fundamenta-se na troca de signos descrita como semiose. Enquanto uma instrução clássica e determinística gera sempre o mesmo resultado, o prompt consiste em um enunciado em linguagem natural, ambíguo e totalmente dependente do contexto.
A fluência apresentada por essas ferramentas esconde uma lógica baseada em pura probabilidade matemática. As redes são treinadas unicamente para prever o termo seguinte com base no treinamento e no contexto, simulando uma compreensão que, na prática, não existe.
Riscos da ilusão de entendimento e cognição híbrida
Essa simulação de inteligência convence com facilidade, gerando riscos expressivos quando a tecnologia é aplicada em áreas sensíveis como o atendimento médico e o aconselhamento psicológico. Ao transferir uma autoridade interpretativa indevida para o sistema, esquece-se que o tom amável e solícito programado nos chats não garante qualquer exatidão nas respostas.
A troca constante entre usuário e sistema configura uma leitura iterativa e uma cognição híbrida, onde diferentes agentes trocam signos. No entanto, cabe exclusivamente ao ser humano formular hipóteses diante de situações inesperadas, além de decidir o início e o término da conversa.
Geração de imagens e o perigo dos deepfakes
O comportamento dos sistemas repete-se na criação visual, onde ferramentas como o Midjourney produzem resultados baseados em médias de estilos extraídas de grandes bases de dados de treinamento. Essa lógica reflete padrões previsíveis que muitas vezes dificultam alterações específicas solicitadas pelos usuários.
Desafios éticos semelhantes aparecem na circulação de conteúdos falsos em aplicativos de mensagens, destacando os riscos dos deepfakes. Diferente da fotografia convencional, a imagem sintética não possui vínculo físico com a realidade, exigindo checagem rigorosa de fatos e fontes antes de qualquer compartilhamento.
A leitura crítica das respostas geradas por sistemas tecnológicos torna-se indispensável no cotidiano, exigindo observação atenta sobre as mudanças nas respostas para compreender como as escolhas humanas moldam o diálogo com a máquina.
Fonte: Folha Vitória
