Eduética no uso da Inteligência Artificial

através da Engenharia de Prompts*

Eduética en el uso de la Inteligencia Artificial

a través de la Ingeniería de Prompts

Como citar: Torrealba, D. J. D. (2024). Eduética no uso da Inteligência Artificial através da En

genharia de Prompts.

Revista Digital de Investigación y Postgrado, 5

(10), 261-266.

261

Juditas Delany Torrealba Dugarte*

https://orcid.org/0000-0001-6472-1518

Guasdualito, estado Apure / Venezuela

* Ensaio publicado no âmbito do Doutorado em Educação da Universidade Nacional Experimental dos Llanos

Ocidentais Ezequiel Zamora (Unellez)..

** Estudante de Doutorado em Educação. Unellez, Apure - Venezuela. M. Sc. em Educação com Menção em

Ensino Universitário, Professora em Educação Integral (UPEL). Advogada (UCAT). Especialista em Direito Adminis-

trativo (UCAT), Doutora em Ciências Jurídicas (UCV). Pós-Doutorado em Filosofia da Ciência e Pesquisa (ULAC).

Professora de Graduação e Estudos Avançados, Unellez, Barinas e Apure. Email: jurisprudenciaubv@gmail.com

Revista Digital de Investigación y Postgrado, 5(10), 261-266

ISSN eletrônico: 2665-038X

Recebido:

Fevereiro / 16 / 2024

Revisado:

Fevereiro / 20 / 2024

Aprovado:

Abril / 4/ 2024

Resumo

O presente ensaio tem como objetivo abordar o tema da educação ética no uso da Inteligência

Artificial (IA) através da Engenharia de Prompts. A IA representa uma disciplina em constante

crescimento e desenvolvimento, que busca dotar as máquinas de capacidades humanas como

aprendizagem, percepção e raciocínio. A Engenharia de Prompts, por sua vez, refere-se à téc-

nica utilizada para guiar e controlar o comportamento dos sistemas de inteligência artificial

mediante instruções específicas. Nesse sentido, é fundamental analisar a importância da edué-

tica, ou seja, a ética aplicada à educação, no contexto da inteligência artificial, para assegurar

um uso responsável e benéfico dessa tecnologia em diversos âmbitos. .

Palavras-chave:

Eduética, Inteligência Artificial, Engenharia de Prompts.

Resumen

El presente ensayo tiene como objetivo abordar el tema de la educación ética en el uso de la

Inteligencia Artificial (IA) a través de la Ingeniería de Prompts. La IA representa una disciplina

en constante crecimiento y desarrollo, que busca dotar a las máquinas de capacidades humanas

como el aprendizaje, la percepción y el razonamiento. La Ingeniería de Prompts, por su parte,

se refiere a la técnica utilizada para guiar y controlar el comportamiento de los sistemas de in-

teligencia artificial mediante instrucciones específicas. En este sentido, resulta fundamental ana-

lizar la importancia de la eduética, es decir, la ética aplicada a la educación, en el contexto de

la inteligencia artificial, para asegurar un uso responsable y beneficioso de esta tecnología en

diversos ámbitos.

Palabras clave:

Eduetica, Inteligencia Artificial, Ingeniería de Prompts.

Eduética no uso da Inteligência Artificial através

da Engenharia de Prompts

No mundo atual, com sua rápida evolução, o uso da Inteligência Artificial (IA) por meio de

grandes Modelos de Linguagem Natural (MLN) é cada vez mais frequente em diversas disci-

plinas. Isso torna essencial que o setor educacional atual seja capacitado na utilização da IA.

No entanto, o aumento de seu uso, combinado com a falta de uma instrução adequada em

IA, tem provocado o uso distorcido dos modelos de Linguagem Natural, como CHAT GPT,

BING, PERPLEXITY, GEMINI, AITHOR, entre outros. Isso tem causado graves consequências, es-

pecialmente na geração de ordens (prompts) de forma particular ou em grande escala sob

uma ampla gama de ordens (Engenharia de Prompts).

A aplicação desleal da IA, sem citá-la como fonte de consulta ou questionando a confiabilidade

de seus argumentos, especialmente no campo acadêmico, gera um risco manifesto na relação

Facilitador-Participante. Cria-se uma tríade Facilitador-IA-Participante que, sem o devido con-

hecimento da Engenharia de Prompts pelo docente, pode relegar o Facilitador a uma postura

262

Juditas Delany Torrealba Dugarte

Revista Digital de Investigación y Postgrado, 5(10), 261-266

ISSN Eletrônico: 2665-038X

263

totalmente passiva. Isso impede a geração de uma contribuição crítica no processo de ensino-

aprendizagem, diante do uso implacável da Inteligência Artificial que está ocorrendo atual-

mente.

Este ensaio argumentará que a educação no uso da IA é necessária e que a Engenharia de Or-

dens (prompts) pode ajudar a melhorar a educação através da aplicação da IA, assim como

prevenir o uso indevido da tecnologia. No entanto, também há manifestações contrárias, que

sustentam que a educação sob a interação da IA não é necessária nem eficiente em todos os

ambientes educacionais. Além disso, o uso indevido da IA ainda pode ocorrer repetidamente,

mesmo existindo um conhecimento adequado das ferramentas que constituem a Engenharia

de Prompts e do tipo de ordens que devem ser solicitadas ao modelo de linguagem.

A IA é cada vez mais frequente em muitos setores da vida diária (acadêmica e profissional),

tornando-se necessária a capacitação em sua aplicação ordinária. Diversos campos das ciências

já estão utilizando a IA para melhorar a eficiência e a precisão. Como resultado, a demanda

por profissionais com habilidades em IA e o potencial de estudantes e facilitadores nesse campo

estão aumentando. Sem conhecimento técnico, é possível que uma grande parte da sociedade

não consiga se adaptar imediatamente ao mundo acadêmico e profissional em constante mu-

dança, rodeado pela Inteligência Artificial, tornando esse conhecimento relevante para a força

de trabalho profissional do presente e do futuro.

No entanto, embora a Inteligência Artificial, através do uso de Modelos de Linguagem Natural

(MLN), forneça respostas imediatas a questionamentos muito mais rápido do que o processo

básico de pensamento gerado pelos seres humanos, intelectuais como Chomsky, o linguista

Roberts e o especialista em IA Watumull (2023) expressaram que:

...os avanços “supostamente revolucionários” apresentados pelos desenvolvedores da

IA são motivo “tanto de otimismo quanto de preocupação”. Por um lado, podem ser

úteis para resolver certos problemas, mas, por outro, “tememos que a variedade mais

popular e moderna da inteligência artificial (o aprendizado de máquina) degrade nossa

ciência e avilte nossa ética ao incorporar à tecnologia uma concepção fundamental-

mente errônea da linguagem e do conhecimento...

Por mais úteis que esses programas possam ser em alguns campos específicos (como

a programação de computadores, por exemplo, ou para sugerir rimas para versos leves),

sabemos pela ciência da linguística e pela filosofia do conhecimento que eles diferem

profundamente da maneira como os seres humanos raciocinam e utilizam a linguagem

(p.13).

Isso, portanto, leva a observar uma dualidade no auge da Inteligência Artificial e, consequen-

temente, no modo de raciocínio que a Engenharia de Prompts apresenta. Em relação aos fa-

tores críticos que detêm e representam a interação homem-máquina, a chegada da Inteligência

Artificial (IA) no contexto educacional pode ser comparada ao fenômeno descrito por Hannah

Eduética no uso da inteligência artificial através da engenharia de prompts

264

Juditas Delany Torrealba Dugarte

Arendt como a "banalidade do mal". Arendt (2013) afirma que alguns indivíduos agem dentro

das regras do sistema ao qual pertencem sem refletir sobre seus atos. Eles não se preocupam

com as consequências de suas ações, apenas com o cumprimento das ordens. E a mecanização

que a IA através da Engenharia de Prompts pode proporcionar pode resultar em tais situações.

Por outro lado, autores como Margaret Boden, Ray Kurzweil e Eliezer Yudkowsky destacaram

a importância da IA e da Engenharia de Prompts como ferramentas significativas para o avanço

da humanidade. Boden, especialista em IA da Universidade de Sussex, Kurzweil, Diretor de IA

do Google, e Yudkowsky, especialista em Inteligência Artificial conhecido por sua teoria da In-

teligência Artificial Amigável, sublinharam os benefícios potenciais dessas tecnologias.

No entanto, Boden (2023), a partir de uma perspectiva mais conservadora, afirma que é ne-

cessário agir com equilíbrio. Ela sustenta que devemos diferenciar entre o conhecimento da IA

e a sabedoria que a mente humana desenvolveu ao longo de sua evolução. Nesse contexto,

ao adotar os preceitos desses autores, surge o conceito de Eduética, uma série de princípios

destinados a manter o equilíbrio entre os avanços tecnológicos e o conhecimento humano.

Portanto, a Engenharia de Ordens ou Prompts pode ajudar a melhorar a educação orientada

ao conhecimento da IA, proporcionando uma abordagem estruturada para projetar esses avan-

ços, com integridade e eficiência, onde os educadores identificam áreas onde os estudantes

podem precisar de apoio adicional com o acompanhamento da IA. Utilizando a Engenharia

de Ordens ou Prompts, os educadores podem criar um currículo que atenda às necessidades

de todos os alunos e os prepare para o mercado acadêmico e profissional do futuro. É nesse

dimensionamento da Eduética na IA aplicável à Engenharia de Prompts que se traz à tona a

opinião da pesquisadora Bryson (2024), que a esse respeito manifesta que:

A ética na IA vai além de ser um mero discurso teórico; é um pilar fundamental para

manter a nossa sociedade unida. A ética se apresenta como uma forma de política que

pode ser aprimorada através de um maior conhecimento científico e social. É por meio

de uma abordagem humana, transparente, segura e responsável que garantimos que

a IA seja utilizada de maneira benéfica para as pessoas e o planeta. (p.2).

Assim, a ética, focando-se estritamente na educação, pode ajudar a prevenir o uso indevido da

tecnologia, que pode ter consequências graves, incluindo a discriminação e os preconceitos. E,

com a existência de pessoas educadas, há menos probabilidade de fazerem mau uso da IA e

mais probabilidade de a utilizarem de maneira responsável e coerente, sem recorrer à banalidade

de Arendt (2013) já explicada anteriormente, gerando, ao contrário, um benefício coletivo.

É possível que a educação em IA não seja necessária em todos os campos, especialmente no

campo das ciências sociais, quando se trata de olhar através de diversas perspectivas críticas

para os principais problemas sociais e refletir sobre eles. Portanto, esse equilíbrio justo de tomar

a IA como um braço, um suporte, um ajudante para facilitar certas tarefas não implica que ela

substitua totalmente o pensamento humano. A emissão de ordens ou prompts muitas vezes

Revista Digital de Investigación y Postgrado, 5(10), 261-266

ISSN Eletrônico: 2665-038X

265

deve se limitar a fornecer cenários referenciais que sirvam, mas não como elementos conclu-

sivos, dado que todos os ambientes e grupos são heterogêneos.

Por esse motivo, a eduética implica que deve existir no âmbito educacional uma série de valores que

permitam manter uma boa interação com a Inteligência Artificial, entre os quais se pode mencionar:

• Equidade: A IA, através do uso da Engenharia de Prompts, deve ser utilizada de maneira

equitativa e não discriminatória.

• Transparência: Os sistemas de IA devem ser transparentes e compreensíveis para os

usuários, sem usar ordens que possam causar confusão.

• Privacidade: Os dados pessoais devem ser protegidos.

• Responsabilidade: Os responsáveis pelo uso da IA na educação devem ser responsáveis

por suas decisões, sem que as ordens dadas excedam o que foi solicitado.

Assim, baseando a Eduética nesses valores fundamentais, dita-se como deve ser impulsionado

o equilíbrio necessário na relação docente-IA-participante. Fatores como a coleta de informações

dos estudantes apenas para fins educativos específicos e com o consentimento dos estudantes

ou de seus pais, juntamente com a anonimização dos dados, devem ser levados em conta.

Além disso, as ordens e prompts devem ser projetados para minimizar o viés, com a obrigação

de serem auditados regularmente para detectar e corrigir vieses que possam afetar a obtenção

de informações sustentadas.

A Eduética também busca fundamentar como os estudantes devem ser informados sobre a

utilização da IA na educação. Assim, através da criação de normativas que clarifiquem que a

IA é um ajudante e não uma ferramenta de banalidade, são criados mecanismos que permitem

a apresentação de queixas e reclamações em caso de uso distorcido da mesma. No âmbito in-

vestigativo, os estudantes devem aprender sobre o potencial da IA, mas também sobre os

riscos e desafios éticos que a omissão de seu uso apresenta. Eles devem ser críticos e autênticos

nas expressões fornecidas pela IA, reconhecendo que essas não são infalíveis nem totalmente

confiáveis. É crucial erradicar a exaltação da trapaça no uso de ordens ou prompts e, ao con-

trário, construir um cenário totalmente transparente que permita uma evolução adequada.

Em conclusão, ao longo destas linhas, buscou-se delinear o impacto da IA em termos de suas

definições, as posturas críticas de detratores e defensores, seu impacto na educação e a ne-

cessidade de seu alinhamento ético para sua existência. A autora afirma que a IA tem o poten-

cial de melhorar a educação de muitas maneiras, mas também apresenta alguns desafios que

devem ser considerados, e que isso só pode ser alcançado através da construção de modelos

orientados para o seu uso.

Referências

Arendt, H. (2013). Eichmann en Jerusalén. Vigésima Edición. Random House Mondadori.

Eduética no uso da inteligência artificial através da engenharia de prompts

266

Juditas Delany Torrealba Dugarte

Boden, M. (2023). Inteligencia Artificial. Quinta Edición Turner Publicaciones.

Bryson, J. (2024). ¿Podemos confiar en la inteligencia artificial? Find AI Tools. https://www.toolify.ai/es/ai-

news-es/podemos-confiar-en-la-inteligencia-artificial-joanna-bryson-1729287

Chomsky, N., Roberts, I. & Watumull, J. (2023, marzo 08). The false Promise of Chat GPT. Opinión. New

York Times. 08 de marzo de 2023. https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-

chatgpt-ai.html

Kurzweil, R. (2023). La singularidad está cerca. Segunda Edición. Editorial Cabrera Mc.

Tsyvinskyi, K. (2023). Prompt Engineering. Guía Completa. Con Ejemplos Prácticos. Amazon Digital Ser-

vices LLC – Kdp.