La inteligencia artificial dejó de ser una herramienta que solo procesa información: hoy empieza a tocar algo mucho más íntimo, la actividad de nuestro propio cerebro. Por eso, hablar de ética en la IA dentro de tu Organización ya no es solo cuestión de algoritmos justos y de datos confidenciales… es cuestión de proteger la mente e intimidad de las personas que confían en ti.
Sitúate en esta escena. Estás en un comité directivo, revisando una propuesta para implementar una herramienta de IA que “optimizará el bienestar del equipo”, a partir de que tiene la capacidad de detectar fatiga, medir niveles de atención y sugerir pausas. Hasta ese momento todo suena bien, incluso noble, pero alguien en la mesa pregunta algo incómodo y que nos coloca en otro ángulo de reflexión: ¿de quién es esa información sobre el estado mental de nuestros colaboradores? ¿Resulta justo tomar decisiones a partir de percepciones detectadas por sensores electrónicos? Y, ¿qué pasa si un día se usa esa herramienta para algo distinto a cuidar de las personas de la empresa?
Esas preguntas, que hace apenas un par de años hubieran sonado a ciencia ficción corporativa, hoy son completamente reales, y es momento de que las Organizaciones las pongan sobre la mesa.
El punto es que, como ya sabíamos: la ética de la IA es un tema de cultura, no solo de tecnología
Este tema ha llamado la atención global y ya se observan reacciones. En octubre de 2025, AmCham Panamá publicó un Código de Uso Ético de la Inteligencia Artificial dirigido a empresas, y algo que queda muy claro ahí es que la ética en IA no depende principalmente de los algoritmos ni de las políticas escritas, sino de las personas que diseñan, implementan y usan estos sistemas día con día.
Algo que llama la atención es que el documento de esta cámara de comercio panameña propone sobre la mesa cinco principios que, si los miras bien, no son nada nuevos para quien lidera con consciencia o, como decimos en Lemon tree, de manera Orgánica… los principios plantean que la IA sea beneficiosa, equitativa, transparente, responsable y confiable.
Estos cinco principios solo cobran vida cuando se vuelven parte neurálgica de la cultura organizacional, al permear un trabajo armónico entre: comités de ética, programas de capacitación por nivel jerárquico, canales seguros para que cualquier colaborador reporte un sesgo o un uso indebido, y líderes dispuestos a poner la ética por encima de la conveniencia comercial cuando hace falta. Algo a cuidar es que esta colocación de prioridades genera en ciertas personas con roles directivos un poco de urticaria; pero basta con ayudarles a recordar que solo tendrán resultados comercialmente convenientes si las personas colaboradoras Quieren, Pueden, Saben y Disfrutan de su entorno de trabajo y de lo que hacen, para que esa sensación incómoda desaparezca al comprender la relevancia del desempeño ético de la Organización, precisamente para tener buenos resultados.
Lo mejor es que quienes dirigen organizaciones, optando por consolidar su Liderazgo Orgánico con medidas como las que plantean los 5 principios, pueden considerar números que respaldan que esto no es solo “lo correcto”, sino también lo inteligente…
Piensa en esto: por un lado tenemos el aporte de la IA en la armonización potenciadora de resultados. Seguro conoces el estudio del 2021 de MIT Sloan Management Review y del Boston Consulting Group, que encontró que, entre los gerentes cuyas implementaciones de IA mejoraron la eficiencia y la toma de decisiones de sus equipos, se pudo obtener mejoras en niveles cercanos al 75%; además, ese mismo grupo también vio mejoras en la moral de sus colaboradores en un 79% y en la colaboración interna en un grado alrededor del 78%.
Por otro lado, podemos incidir con una IA ética en el cuidado y bienestar integral de las personas. En este plano, y de acuerdo al Código de AmCham Panamá, se puede ver que el 87% de los colaboradores preferiría trabajar para organizaciones que usan la tecnología de forma responsable y centrada en las personas. En Lemon tree pensamos que esto tiene total congruencia con la idea de que la ética, lejos de frenar la innovación, o de reducir la productividad y la generación de resultados, la sostiene.
Hasta aquí, el terreno ya era conocido e incluso comprendido: datos, sesgos, transparencia, supervisión humana. Pero hay una nueva frontera que pocas Organizaciones están viendo venir.
Hablamos de la frontera que se abrió en noviembre de 2025: cuando la tecnología empezó a leer la mente
El 12 de noviembre de 2025, en su Conferencia General número 43, reunida en Samarcanda, la UNESCO aprobó por aclamación la primera Recomendación mundial sobre la Ética de la Neurotecnología. Esta recomendación es, literalmente, el primer marco normativo global pensado para tecnologías capaces de medir, modular o estimular directamente el sistema nervioso humano. ¡Sí! De eso estamos hablando, de algo realmente delicado.
En aquel momento, su directora general, Audrey Azoulay, impulsó una idea que dio bases para establecer el marco del acuerdo: no puede haber datos neurotecnológicos sin derechos que los protejan.
Y podríamos preguntarnos, ¿por qué de pronto este tema toca a las empresas? Porque la neurotecnología ya no vive solo en laboratorios u hospitales. Un ejemplo son las diademas que registran ondas cerebrales (a manera de electroencefalogramas portátiles) y que se están usando hoy en entornos laborales para medir fatiga, atención o avance en capacitaciones, en lo que ya se conoce como neuroergonomía.
Hay antecedentes de este tipo de mediciones en sistemas que hacen el monitoreo digital de las teclas, pantallas, actividades de los flujos de trabajo, correos, etc. —hablamos del llamado “bossware”—, que ya generaban preguntas éticas que nos remitían a pensar en una variante del famoso 1984 de George Orwell. No es difícil imaginar que ese mismo nivel de vigilancia, ahora aplicado a la actividad cerebral de un colaborador, eleva el dilema a otro nivel completamente distinto.
Aquí es donde entra el concepto de neuroderechos, impulsado desde hace casi una década por el neurobiólogo español Rafael Yuste, quien en colaboración con juristas internacionales propuso que la actividad mental merece protecciones específicas, entre ellas el derecho a elementos como: la identidad personal, el libre albedrío, la privacidad mental, el acceso equitativo a tecnologías de mejora cognitiva, y el derecho a no ser discriminado por datos derivados de nuestro propio cerebro.
El tema es relevante al grado de que países y gobiernos como el de Chile —que fue pionero al incorporar la protección de la integridad cerebral en su Constitución en 2021—, y el estado de Colorado en Estados Unidos, que hizo lo propio en 2024 mediante una ley de protección de datos neuronales, han abordado con contundencia esta protección a nuestra mente. Los avances siguen: países como Uruguay, Brasil y México, por su parte, ya discuten en sus congresos iniciativas de ley en esa misma dirección.
En la metáfora que tanto nos gusta usar en Lemon tree, pensamos que la IA puede exprimir información para sacarle “jugo” útil al negocio… pero cuando esa información y sus datos provienen de la mente misma de las personas, hay un límite que ya no es solo técnico, ni siquiera solo ético. Es profundamente humano.
¿Qué significa para tu Organización?
Bueno, pues es probable que tu empresa no esté usando interfaces cerebro-computadora todavía para incursionar en aspectos de la mente de los colaboradores, pero sí es momento de ampliar el lente con el que se mira la ética de aplicación de la IA. La alerta es importante, ya que el camino hacia ahí es más corto de lo que parece: empieza con wearables de bienestar, asistentes de productividad, sistemas de evaluación de desempeño con IA generativa, y poco a poco va acercándose a terrenos cada vez más íntimos de la experiencia humana de tu gente.
Trabajar en esto es importante ahora, ya que la tecnología llegará más rápido de lo que pensamos, y no sería bueno que nos tomara poco preparados en estas definiciones éticas en la empresa.
¿Qué podemos hacer aquí y ahora?
En Lemon tree hemos aprendido de investigaciones y de recomendaciones expertas, para ayudar a nuestros clientes a aplicar ideas concretas para llevar este tema a la gobernanza de tu Organización. Queremos compartir estos fundamentos contigo en sus ideas generales.
Son 5… ¡Vamos a ello!
- Extiende tu marco de ética de IA antes de que la ley te obligue. Esperar a que exista una ley no debería ser la vara con la que mides tu responsabilidad. Tu Organización podría desarrollar su propio marco ético de la IA y la neurotecnología, y preparar con ello el terreno para que las personas que colaboren ahí participen de un hábitat orgánico de respeto pleno.
- Haz explícito el consentimiento de las personas, siempre. La idea es que cualquier herramienta que mida el bienestar, la fatiga, la atención o el estado emocional sea opcional, se aplique de manera informada y que sea revocable. Nunca debe convertirse en una condición implícita para conservar el empleo o para acceder a una evaluación justa.
- Minimiza y garantiza el anonimato de los datos sensibles. Sobre todo aquellos relacionados con salud, estados emocionales o cualquier métrica de la actividad cerebral. El acceso y uso de estos datos requiere de protecciones reforzadas, muy en la línea del cuidado que se debe tener con datos biométricos o genéticos de cualquier persona.
- Lleva la conversación de este tema a tu comité de ética de IA, no la dejes solo en TI. La responsabilidad de manejo de estos temas no recae únicamente en el área tecnológica que lo implementa; en realidad, un esquema bien establecido involucra a funciones como Recursos Humanos, Legal, Alta Dirección y a los propios colaboradores, quienes deben tener voz en el diseño y uso de cualquier herramienta que los observe.
- Comunica, no asumas. Piensa en esto: el Código de AmCham Panamá cita una cifra obtenida de la encuesta Voice of the Consumer de PwC (2024), con un dato revelador: el 78% de los consumidores panameños reconoce que saber si una empresa usa sus datos de forma ética tiene mucho que ver en su decisión de comprarle o no sus productos o servicios. El punto es que tus colaboradores no son muy distintos… en este sentido, Lemon tree concuerda con la idea de que la confianza también se construye —o se rompe— de acuerdo a cómo comunicas, qué datos recoges y para qué los usas.
La idea es clara. Podemos usar la IA para ser más rentables, productivos y para generar escalabilidad en nuestras organizaciones. La tendencia a utilizar recursos automatizados en procesos de venta, cobranza y servicio es muy alta en estos momentos, pero ya las organizaciones están notando que el respeto a la intimidad personal, al cuidado ético y a la experiencia humana son aspectos que toda persona, dentro y fuera de la empresa, prioriza.
El hilo de la confianza es delicado, pero si estableces una base ética del uso de la IA y las neurotecnologías, el resultado podrá ser realmente satisfactorio.
Un ejercicio para esta semana
Antes de aprobar la próxima herramienta de IA o de bienestar digital en tu Organización, hazte estas cuatro preguntas:
¿Qué tipo de datos estamos pidiendo realmente, y qué tan cerca está esta petición de la línea de intimidad mental de la persona?
¿Podría alguien en mi equipo decir “no” sin que eso le cueste algo?
¿Estamos protegiendo a las personas, o solo cumpliendo con instalar la tecnología en tendencia?
¿Estoy invirtiendo el mismo tiempo a entender lo que la IA puede hacer, que a entender lo que no debería hacer?
No necesitas tener todas las respuestas hoy. Necesitas, eso sí, estar haciéndote las preguntas correctas antes de que la tecnología avance más rápido que tu criterio personal y directivo.
Al final, el valor del análisis del comportamiento de las personas con el uso de la IA no se medirá por qué tantas maravillas de detección y de predicción pueda hacer, sino por qué tan dispuesta está tu Organización a poner límites de respeto cuando la tecnología empiece a acercarse a lo más profundo de las personas, es decir, a eso que las conforma: su mente, su autonomía, su dignidad.
¿Quieres construir, junto con tu equipo, una cultura donde la IA amplifique sin invadir? ¡Hablemos!
by Lemon tree