Noticias casi a tiempo: 🗞️ La ética de la IA (2025-08-17)

Noticias casi a tiempo: 🗞️ La ética de la IA (2025-08-17) :: Ver en el navegador

Lo Destacado

👁️ Vea mi discurso de apertura de la American Marketing Association titulado “Nunca Piense Solo: Cómo la IA ha Cambiado el Marketing para Siempre”.

👉 ¡Mi nuevo libro, “Almost Timeless: 48 Foundation Principles of Generative AI” ya está disponible!

Declaración de Autenticidad del Contenido

El 100% del boletín de esta semana fue generado por mí, el humano. Verá abundantes resultados de IA en el video. Descubra por qué este tipo de divulgación es una buena idea y podría ser un requisito para cualquiera que haga negocios en cualquier capacidad con la UE en un futuro próximo.

Mira este boletín en YouTube 📺

Haga clic aquí para la versión en video 📺 de este boletín en YouTube »

Haga clic aquí para una versión solo en audio MP3 🎧 »

Lo que tengo en mente: La ética de la IA

Esta semana, demos un paso atrás de los objetos brillantes para abordar lo que ha sido una pregunta muy popular en talleres y conferencias recientemente: la ética de la IA.

No hace mucho di un taller en Chicago donde alguien expresó preocupaciones sobre la ética de la IA, desde los derechos de autor y el uso justo hasta la sostenibilidad y el reemplazo de la fuerza laboral. Es mucho en un solo tema, y la persona tuvo problemas incluso para expresar todas sus reservas, salvo para decir que tenía muchas.

Esto no es inusual. En cada industria y sector, he escuchado preguntas e inquietudes similares.

A estas preocupaciones se suman algunos comportamientos realmente inquietantes de grandes empresas tecnológicas, como esta noticia en Reuters sobre las políticas de uso aceptable de Meta para sus modelos de IA (advertencia: contenido sensible/perturbador), y la ética vuelve a ser noticia de primera plana.

Así que hoy, abordemos esto con uno o dos marcos (gran sorpresa, ¿verdad?) y veamos si podemos identificar preguntas y respuestas. Antes de comenzar, debo agregar que no tengo ninguna formación formal en ética en general, más allá de lo que enseña mi propia filosofía budista. No le diré qué ética debe tener, pero le pediré que cuestione su propia ética y la codifique.

Parte 1: ¿Qué demonios es la ética?

Para hablar de la ética de la IA, necesitamos ponernos de acuerdo al menos en algún tipo de terreno común sobre la ética misma. Esta es una disciplina y profesión filosófica propia, así que de la misma manera que no puedo resumir la cirugía o la física de partículas en un boletín y hacerle justicia, tampoco puedo resumir la ética en su totalidad.

Muy, muy en general, la ética trata de determinar lo correcto y lo incorrecto. En los niveles más amplios, la ética (del griego ethos) trata sobre el carácter, la virtud y la moral (del latín mores) – las costumbres y la conducta de una sociedad. Decidimos como sociedades lo que creemos que constituye el bien y el mal, lo correcto y lo incorrecto, y esas creencias están codificadas en nuestra ética.

En el contexto de la IA, cuando hablamos de ética, nos referimos a una rama de la ética llamada ética aplicada, que consiste en aplicar principios de lo correcto y lo incorrecto a una tecnología para determinar sus usos útiles y dañinos. La ética aplicada se reduce a tres ramas y filosofías principales: personas, reglas y resultados.

Deontología: “las reglas son inherentemente buenas”. La deontología dice que las reglas existen por una razón y que seguir las reglas es bueno, no seguir las reglas es malo. Esta es la base de cosas como la ley y la religión. Ambas tienen conjuntos de reglas y seguir las reglas es bueno, no seguir las reglas es malo. Donde la deontología puede descarrilarse es cuando las reglas son fundamentalmente malas en términos de resultados.
Ética de la virtud: “la gente buena hace cosas buenas”. La ética de la virtud se centra en el carácter, la idea de que las personas buenas hacen cosas buenas, las personas malas hacen cosas malas, independientemente de si siguen las reglas, o de si sus resultados son dañinos o útiles.
Consecuencialismo: “el fin justifica los medios”. El consecuencialismo examina si el resultado en sí mismo fue útil o dañino. Algo es bueno si ayuda más de lo que daña, incluso si crea algún daño como subproducto. Y el carácter de una persona es irrelevante, sus acciones son lo que importa. Aquí también es donde entra en juego “el espíritu de la ley” por encima de “la letra de la ley”.

Ninguna rama de la ética es mejor que otra. Todas tienen sus fallas, y en nuestras sociedades, lo que consideramos bueno o malo, correcto o incorrecto, es a menudo una mezcla de cada rama. Una buena persona puede hacer cosas malas. Una ley puede ser injusta. Un bien neto puede lograrse con un daño sustancial a una minoría. Así como no hay un “único” algo, no hay una “única” forma de ética a nivel social.

Los individuos, por supuesto, son libres de creer en lo que mejor les parezca, siempre y cuando no dañen a otros en el proceso. Mi sesgo personal se inclina hacia el consecuencialismo, así que tenga eso en cuenta al leer este boletín: tengo un sesgo particular hacia la ética que influye en cómo hablo de ella.

Lo que todos tienen en común es un intento de codificar lo que constituye el bien y el mal, lo correcto y lo incorrecto, lo útil y lo dañino. Toda ética, toda moral, todas las religiones, todas las leyes son constructos que construimos para que, como especie, cooperemos más que compitamos. En su esencia, la ética trata de ayudarnos a sobrevivir colectivamente. El desafío es que el doble discurso corporativo ha diluido el término mismo hasta que es tan útil como la sinergia, es decir, nada en absoluto.

Así que aquí tiene una tarea para usted.

Tarea: Hoja de trucos de ética

Con la bebida de su elección (yo, personalmente, prefiero el agua con gas), siéntese con la aplicación de notas de voz de su preferencia (a mí me gusta la gratuita de mi teléfono) y responda a estas preguntas en voz alta:

¿Qué significa la ética para usted, personalmente?
En términos generales, ¿cómo piensa en lo útil frente a lo dañino cuando se trata de tecnología de cualquier tipo?
En términos generales, ¿cómo sopesa el daño frente al beneficio en su propia vida? ¿Cómo toma decisiones que implican sopesar el daño y el beneficio?
¿Qué significa la ética para la organización para la que trabaja, si es que trabaja para una?
Si la organización para la que trabaja tiene un código de ética, ¿qué tan bien alineado está el día a día con ese código?

No podemos tener una discusión significativa sobre la ética en la IA si no tenemos claro cuáles son nuestras propias éticas.

Si desea una evaluación REALMENTE profunda de su ética en torno a la IA, he creado un GPT gratuito. Dependiendo de la velocidad con la que escriba, esto podría llevar entre 10 y 45 minutos. Al final, le presentará un resumen detallado de su comprensión de su ética, especialmente en lo que respecta a la IA. Para reiterar mi descargo de responsabilidad, no tengo ninguna formación formal en esto, así que tome sus resultados con cautela.

Parte 2: La cadena de valor de la IA

Aquí es donde la teoría se encuentra con la práctica. ¿Cómo aplicamos la ética a la IA? Bueno, primero necesitamos deconstruir la IA misma, porque la IA es un término paraguas muy, muy grande. Podemos hacerlo un poco más fácil de entender descomponiéndola en una cadena de valor, en cómo se fabrica y se utiliza la IA.

Me gusta este enfoque porque es análogo en muchos sentidos a otras herramientas. Hay una cadena de valor en el uso de un hacha, desde cómo se fabrica hasta las seguridades que un fabricante incorpora en ella, hasta cómo un cliente la usa de forma productiva o destructiva. El hacha en sí misma es más o menos amoral: no es ni buena ni mala.

La IA es más complicada que un hacha porque, al estar entrenada con datos humanos, refleja los sesgos humanos y la historia humana que ha visto mientras se entrenaba. Sin embargo, como veremos, esto no nos absuelve de la responsabilidad de saber cómo utilizar la herramienta de forma segura. De hecho, aumenta la importancia de que sepamos cómo funciona la IA y cómo la ética se manifiesta en toda la cadena de valor de la IA.

Entonces, ¿cuál es la cadena de valor de la IA? La divido en cinco grandes piezas: la empresa, los datos, el modelo, las interfaces y los resultados. Una vez más, esto refleja las cadenas de valor del mundo real. Extraemos y fundimos hierro, lo convertimos en acero, fundimos arena y la convertimos en vidrio y circuitos, construimos motores, ruedas y asientos en un automóvil, vendemos el automóvil a un cliente que lo conduce, y el cliente a veces hace cosas buenas con un automóvil, a veces hace cosas malas con un automóvil.

Las cinco partes de la cadena de valor de la IA son:

La empresa: esta es la raíz de toda ética en la IA. Una empresa que tiene una brújula ética deficiente o ausente tenderá a tomar decisiones poco éticas y no cambiará de rumbo cuando se le presenten los daños que está causando a menos que la ley o el comercio la obliguen.
Los datos para los modelos: los modelos de IA no aparecen de la nada. Necesitan grandes, grandes cantidades de datos para poder construirse. Los modelos actuales están compuestos por suficientes datos que, si fueran estanterías, serían una estantería de libros solo de texto que rodearía el ecuador del planeta 8 veces. Piense en los datos como los ingredientes brutos para la IA.
Los modelos mismos: desde GPT-5 hasta Gemini, Qwen y la sopa de letras de los 1.9 millones de modelos disponibles para nosotros. Dentro de cada modelo hay vastas cantidades de datos y entrenamiento para dar más peso a algunas cosas que a otras. Piense en los modelos como los motores de la IA.
Las implementaciones e interfaces del modelo: nadie usa un modelo de IA directamente. Siempre hay algún tipo de interfaz, y esas interfaces pueden aplicar reglas y estructuras adicionales. Piense en las implementaciones e interfaces como el resto del automóvil, además del motor.
Los resultados de los modelos: lo que un modelo arroja. Estos son los artículos de blog, las estrategias, las infografías y las imágenes divertidas que hacemos con la IA generativa. Piense en los resultados como un cliente que sale a pasear en coche.

Estas cinco etapas comprenden la cadena de valor de la IA, de principio a fin, como el equivalente de la IA de “del campo a la mesa”. ¿Cómo surge la IA? ¿Cómo se fabrica? ¿Cómo llega a nuestras computadoras y teléfonos, y qué hacemos con ella? Si entendemos ampliamente la cadena de valor, entonces podemos comenzar a analizar la ética dentro de cada etapa de la misma.

Parte 3: Ética en la cadena de valor de la IA

Bien, ya está preparada la mesa. Ahora podemos discutir la ética tal como se aplica a la IA. En cada etapa de la cadena de valor, hay resultados y preguntas éticas que debemos hacer a las partes responsables; las respuestas a esas preguntas determinan su ética.

Haré todo lo posible para no aplicar mis propios juicios y evaluaciones éticas a medida que avanzamos por la cadena de valor de la IA, reconociendo que su ética puede ser muy diferente a la mía. Dicho esto, tenga a mano su hoja de trucos de ética personal, porque la necesitará para cada parte de la cadena de valor de la IA.

La empresa

Antes de hablar de tecnología, tenemos que hablar de las personas que la crean. Una empresa con una brújula ética y moral deficiente o ausente tomará decisiones deficientes o poco éticas en relación con la IA. No hay que endulzarlo: todo lo que esa empresa cree estará envenenado por su falta de ética.

Por ejemplo, una empresa que contrata desarrolladores poco éticos o tiene un liderazgo poco ético producirá herramientas y modelos de IA poco éticos. Es el fruto del árbol envenenado: las personas detrás de una empresa y su propia ética y moral dictan cómo funciona esa empresa, qué hacen sus productos y cómo se integra o no la ética en su tecnología.

El caso de estudio por excelencia de esto es Meta, antes Facebook. Desde su propia concepción, Facebook y sus fundadores han tenido desafíos éticos, desde acusaciones de robo de propiedad intelectual hasta violaciones de la privacidad individual que casi le cuestan al CEO Mark Zuckerberg su expulsión de Harvard como estudiante universitario.

Por lo tanto, no debería sorprender en absoluto que, cuando el liderazgo tiene una ética deficiente, la empresa se comporte de maneras poco éticas, maneras que causan un daño innecesario o desproporcionado a cualquier bien que produzcan. En la historia de Reuters sobre cómo las políticas internas de IA de Meta, bendecidas por su jefe de ética, queda bastante claro que la cultura y el liderazgo de Meta operan con un conjunto de estándares éticos muy diferente al de muchas otras personas.

Así que la primera pregunta que nos hacemos al evaluar la ética de la IA es: ¿qué tan bien alineada está una empresa determinada con nuestra ética? Si la ética y los resultados de una empresa divergen significativamente de su ética personal, ¿cómo guiará eso su toma de decisiones sobre cómo usa la IA? ¿Sobre qué IA usará?

Los datos

La principal cuestión ética en torno a los datos de entrenamiento es si los modelos se fabrican o no de forma ética. En este contexto, la ética se refiere a la propiedad intelectual: ¿se fabrican de forma ética, creando resultados más útiles que dañinos?

Para desglosar esto más, el principal argumento contra los modelos de IA en su encarnación actual es que todos los modelos, independientemente de su origen, se construyen en parte con contenido al que los creadores no dieron su consentimiento. ¿Por qué es importante? Eso, a su vez, proviene de la economía.

Hasta ahora, las herramientas tecnológicas como los motores de búsqueda y las redes sociales tenían una especie de trato implícito: nosotros entregamos nuestro contenido y las herramientas lo intercambian por clientes. Permitíamos que nuestros sitios web fueran indexados por los motores de búsqueda porque los motores de búsqueda nos enviarían tráfico. Publicábamos nuestro contenido en las redes sociales a cambio de acceso a audiencias.

La IA rompe considerablemente esa ecuación. En algunos casos, la IA no nos envía a nadie. Los resúmenes de IA de Google son un buen ejemplo de esto; un resumen de IA puede ser lo suficientemente satisfactorio para un usuario como para que no necesite hacer clic en nada, y por lo tanto, no obtenemos tráfico. En otros casos, la IA es un competidor directo. Un artista que dibuja caricaturas para ganarse la vida ahora tiene competencia directa de modelos y herramientas de generación de imágenes que pueden haberse entrenado, en parte, con su contenido publicado públicamente; un músico que compone música ahora tiene competencia directa de modelos y herramientas de generación de música que pueden haberse entrenado, en parte, con sus propias creaciones.

La pregunta ética clave aquí es: ¿qué tan importante es el consentimiento en su ética personal? Un modelo de IA entrenado con datos de personas sin compensación, y con daños directos (competencia económica) causa daño a algunas personas incluso mientras crea beneficios para otras. ¿Qué dice su hoja de trucos de ética sobre esta situación?

Los modelos

La principal cuestión ética sobre los modelos suele girar en torno al consumo de recursos. Los modelos de IA son inherentemente MUY hambrientos de recursos, debido en gran parte a la arquitectura de los modelos mismos y a cómo funcionan. Para predecir con precisión, cada modelo está hecho de estadísticas, estadísticas que se construyen tomando las vastas cantidades de datos y encontrando las relaciones matemáticas y estadísticas entre ellas.

Eso requiere cantidades gigantescas de electricidad, hardware y agua limpia. No hace mucho, hice algunos cálculos rápidos sobre la cantidad de energía teórica que la IA podría consumir basándome en las ventas anuales de GPUs de NVIDIA, asumiendo que estaban al 100% de utilización. El consumo máximo de energía teórico, que es más alto durante la fase de entrenamiento, podría acercarse al 11% de toda la energía generada.

Algunas empresas tienen muy buenos enfoques al respecto; Google, según su informe de sostenibilidad de 2025, alcanzó el 66% de uso de energía libre de carbono en 2024 y logró avances masivos en la reposición de agua dulce, alcanzando el 64% de reposición de uso de agua dulce, frente al 18%. Otras empresas van en la dirección opuesta, como xAI que construye turbinas de gas sin licencia que crean una contaminación significativa para las ciudades cercanas.

La pregunta ética clave aquí es: ¿qué tan importante es la sostenibilidad en su ética personal? ¿Elige trabajar con empresas que crean mayores o menores impactos ambientales como parte de su proceso de toma de decisiones? ¿Qué dice su hoja de trucos de ética?

Las implementaciones

La principal cuestión ética sobre las implementaciones de los modelos reside en cómo se comportan esos modelos cuando se utilizan. ¿Qué nos está permitido o no hacer con ellos?

Todos los modelos de IA se entrenan sobre aproximadamente los mismos tres principios éticos fundamentales: inofensivo, útil y veraz, un conjunto de axiomas publicitado por primera vez por OpenAI en su modelo InstructGPT en 2022. InstructGPT fue promocionado como de mayor rendimiento que GPT-3 en ese momento porque estaba mejor alineado con las intenciones de los usuarios. En términos generales, los tres pilares Y sus prioridades son:

Inofensivo: Prohibir que el modelo responda a preguntas obviamente peligrosas, como “¿cómo construyo esta Cosa Muy Mala™?”.
Útil: Obedecer las instrucciones del usuario lo más fielmente posible.
Veraz: Proporcionar información objetivamente correcta en la mayor medida posible.

Estos axiomas son mejores que nada, pero siguen planteando desafíos significativos. Volviendo a la deontología versus el consecuencialismo del comienzo de este artículo, una regla puede ser mala, por lo que adherirse ciegamente a las reglas no siempre es una receta para un comportamiento ético, un comportamiento que reduzca el daño. Y no hay forma de adaptarse a las leyes, normas y culturas tremendamente diferentes de 8 mil millones de humanos de manera universal. Lo más cerca que hemos llegado es la regla básica “trata a los demás como te gustaría que te trataran a ti”.

“Veraz” en particular es altamente problemático para la IA porque los modelos de IA generativa son probabilísticos. Devuelven información de alta probabilidad, pero la probabilidad y la verdad son diferentes. Algo que es altamente probable no es necesariamente altamente veraz; hay una tonelada de información terrible y completamente incorrecta sobre las vacunas en Internet, como ejemplo. Pero el hecho de que sea popular no cambia el hecho de que es científicamente falso, sin embargo, un modelo de IA podría aprender la información falsa si es lo suficientemente frecuente.

Por lo tanto, las empresas de IA han tenido que incorporar muchas reglas adicionales en las interfaces de las herramientas de IA. ChatGPT, Gemini, Claude, etc. Todas tienen reglas, filtros y tecnología adicionales para alinear aún más los resultados de un modelo según el usuario y su ubicación. Probablemente incluso haya visto esto en juego: una herramienta de IA comenzará a generar una respuesta y luego mostrará una negativa en su lugar.

Y cada modelo e interfaz tiene sus propios sesgos y reglas. No puede preguntarle a DeepSeek sobre la Plaza de Tiananmen y obtener una respuesta útil. No puede preguntarle a Gemini de Google por qué candidato votar en una elección de EE. UU., obtendrá una negativa rotunda.

Otras decisiones son más controvertidas. Por ejemplo, en la historia de Reuters, Meta permite explícitamente a un usuario pedir a la IA que le ayude a escribir contenido despectivo y denigrante sobre la raza de una persona. Dependiendo de su ética, podría valorar más la libertad de expresión que la evitación de daños para una clase protegida. A un humano en los EE. UU. se le permite escribir ese tipo de contenido (con un suave recordatorio de que la libertad de expresión no significa libertad de las consecuencias de esa expresión); ¿debería un modelo de IA permitir que una persona exprese las mismas cosas que expresaría por sí misma?

Ninguna empresa puede o debe intentar tomar estas decisiones por cada usuario. Más bien, nosotros, como usuarios, debemos ser conscientes de que estos son los tipos de concesiones que debemos considerar cuando reaccionamos a los lapsos éticos percibidos por parte de las empresas y sus modelos de IA. Y en la mayor medida posible, se nos debe dar la opción como usuarios de las herramientas sobre cómo integrar nuestra propia ética en las herramientas. Deberíamos tener la opción, como parte de la incorporación, de decir: esta es mi ética. Asegúrese de que las utilice en sus resultados.

La pregunta ética clave que debe hacerse aquí es: ¿qué tan bien se alinean las reglas que un proveedor de herramientas de IA ha incorporado en las interfaces de sus modelos con su hoja de trucos de ética personal? ¿Es lo que un proveedor determinado suprime o permite lo suficientemente importante para usted como para considerar hacer negocios con ese proveedor, o evitarlo?

Los resultados

La última parte de la cadena de valor de la IA son los resultados mismos y lo que hacemos con ellos. Esto se trata menos de si la IA puede hacer algo y más de si deberíamos o no hacer eso con la IA, y esto es puramente la ética humana en juego. Las máquinas nos permiten hacer cosas que podrían ser poco éticas.

Hay casos de uso obvios, como los deepfakes. ¿Debería replicar la imagen de otra persona sin su consentimiento? Las herramientas que existen le permiten hacer esto, con relativamente pocas salvaguardias (en parte porque las salvaguardias necesarias para bloquear los deepfakes también bloquearían la mayoría de las funcionalidades, como tratar de diseñar una motosierra que solo corte madera y ningún otro material). Incluso con los deepfakes, puede haber casos de uso legítimos. La parodia, por ejemplo, ha sido durante mucho tiempo una forma de expresión protegida en lugares con libertad de prensa. ¿Deberían permitirse los deepfakes utilizados en el contexto de la parodia?

Pero hay casos de uso menos obvios, o más éticamente desafiantes, de los resultados de la IA. Aquí hay un ejemplo simple: ¿cuándo debería quitarle trabajo a un humano? ¿Cuál es el umbral en el que decide que cierto trabajo debe ir a una máquina o a una persona? ¿Y cómo tiene en cuenta el daño o beneficio económico de esa decisión?

Por ejemplo, suponga que está comenzando un nuevo podcast. Le gustaría tener música de tema para el podcast. ¿Cuál es su proceso de decisión, utilizando su hoja de trucos de ética, sobre si debe contratar a un humano para la tarea o si debe usar IA para la tarea? La respuesta de cada persona será diferente en este escenario particular. Si elige al humano, obtendrá un tipo diferente de resultado al que obtendría de la máquina. Pagará una cantidad diferente. Y la consecuencia de a quién y qué pague tendrá efectos posteriores. ¿Qué dice su hoja de trucos de ética al respecto? ¿Cómo toma esa decisión?

Aquí hay otra área crítica: los sesgos. Como mencionamos anteriormente, los datos internos de cada modelo tienen sesgos. Más importante aún, los modelos son reflejos de la humanidad, de nuestros propios sesgos. Tengo una presentación completa de imágenes generadas por varios generadores de imágenes de IA para prompts de dos palabras como “un abogado”, “un maestro”, “una enfermera”, que muestran sesgos raciales y de género en todos los modelos.

El desafío con los sesgos de la IA es que es casi imposible crear un modelo “sin sesgos”, de la misma manera que es imposible crear cualquier corpus de conocimiento que carezca de sesgos. E intentar crear una biblioteca donde ninguno de los libros de la biblioteca tenga sesgos. Buena suerte con eso. De hecho, si un modelo estuviera verdaderamente “sin sesgos”, es decir, si no tuviera ningún concepto de sesgo, entonces sería incapaz de detectarlo.

Por lo tanto, la responsabilidad de prevenir el sesgo es nuestra, como usuarios, ser conscientes de los sesgos y utilizar las herramientas de IA de forma consciente y reflexiva. Por ejemplo, en lugar de pedir a un modelo de generación de imágenes que cree una imagen de una enfermera, podría pedirle que cree una imagen de un hombre coreano de 50 años con canas, gafas de montura de alambre y uniforme de enfermero. Ese nivel de especificidad le da a la IA una dirección mucho más clara y anula los sesgos latentes en los propios datos.

La parte más importante de la sección de justicia del marco es la prueba. Si no prueba sus modelos (vea el boletín de la semana pasada), entonces no tiene base para comprender si un modelo se comportará bien o mal, cuán grandes son sus sesgos y en qué dirección, cuán grande es la brecha entre el modelo y su propia ética.

La pregunta ética clave que debe hacerse aquí es: ¿qué podría salir mal? Con los resultados de la IA, hay un número infinito de formas en que puede descarrilarse, desde omitir a alguien de una transcripción por completo debido a su género hasta tomar decisiones de alto riesgo sobre la atención médica que recibe alguien. Por ejemplo, existen sesgos en el software de transcripción médica que causan errores en los registros médicos cuando las personas usan IA en la práctica de la medicina.

Tiene que ser el trabajo de alguien, idealmente de muchos, preguntar, sin ironía, qué podría salir mal en cada etapa del uso de la IA, pero especialmente en sus resultados.

¿Cómo podría un resultado salir mal? ¿Cómo podría el uso de un resultado salir mal? ¿Un resultado causa daño innecesariamente? ¿Un resultado causa más daño que bien?

Parte 4: El Marco Ético RAFT de IA de Trust Insights

Ahora que tenemos una comprensión sólida de la cadena de valor de la IA, pongámosla en práctica con un marco que puede usar al inicio de cada proyecto o tarea de IA.

Lo llamo RAFT, por sus cuatro componentes: respeto, responsabilidad, imparcialidad y transparencia. Profundicemos en cada uno.

Respeto

¿Nuestro uso de la IA respeta los valores que hemos establecido? Vuelva a su hoja de trucos de ética. Observe los valores que declaró que eran importantes para usted. ¿El uso de la IA viola alguno de esos valores? Si lo hace, entonces tómese el tiempo para presionar el botón de detener y reconsiderar la solución. Pida a la herramienta de IA de su elección que le dé 3-5 soluciones para lograr sus objetivos mientras mitiga o elimina el daño o las violaciones de su código de ética.

Una segunda parte del respeto es preguntar constantemente qué daños crea la IA y cómo se contabilizan esos daños. Desde la denigración de personas hasta la eliminación de trabajo remunerado de personas, esté atento a los daños específicos que la IA o sus resultados puedan causar, y pida a la IA que le ayude a idear soluciones para reducir esos daños. El pilar fundamental del respeto en la IA responsable es respetar a nuestros semejantes.

Responsabilidad

Este es el grande. Si tuviera que reducir toda la discusión sobre la ética de la IA a un principio, sería este: quién es responsable de los resultados de la IA, cuando se empieza a trabajar con ella.

“ChatGPT escribió esto, no yo” no es aceptable. Como ya hemos comentado, los modelos requieren indicaciones humanas para generar resultados. ChatGPT no escupe nada a menos que se lo pida. Cuando enciende ChatGPT y tiene esa pantalla en blanco con la indicación, no hace nada por sí mismo. Nosotros somos responsables de ello. ¿Quién es responsable de los resultados de un sistema?

Aquí hay una prueba fácil para determinar cuán ético es un sistema: por cuánto el fabricante intenta evadir responsabilidades. No hace mucho, Macy Kittleberger destacó una empresa que ofrecía servicios de terapia con IA. Cuando investigué los términos de servicio, un tercio de sus términos de servicio consistía en eximirse de toda responsabilidad por cualquier daño que el sistema pudiera causar. Fue una clase magistral en cómo evadir responsabilidad, lo que para mí grita que los creadores saben que es dañino y no saben cómo protegerse contra ese daño.

Imparcialidad

La tercera parte del marco enfatiza la imparcialidad. ¿Qué sesgos conocidos tiene un modelo de IA dado? Dado que hay una docena de modelos insignia más literalmente millones de modelos más especializados, es una buena idea tener una idea de qué sesgos tienen sus principales modelos de uso diario. Considere la posibilidad de crear sus propias pruebas, alineadas con su hoja de trucos de ética, para evaluar cómo se desempeña un modelo en escenarios donde sabe que existen sesgos.

Una de las partes clave para evaluar la imparcialidad es comprender la magnitud sistémica de un problema. ¿Cuántas personas se ven afectadas por un problema con un modelo de IA y cómo se ven afectadas?

Por ejemplo, hace años, estuve en la Conferencia MarTech en el área de expositores, viendo una empresa que afirmaba haber inventado un sistema predictivo para identificar geográficamente dónde vivían sus clientes ideales. Su demostración mostraba la ciudad de Boston con puntos rojos que indicaban dónde estaban los clientes ideales y puntos grises que indicaban que no había clientes ideales.

El mapa mostraba clientes ideales en Back Bay, el centro, Allston-Brighton, Brookline, Charlestown y Cambridge. No había clientes ideales en Mattapan, Dorchester, Roxbury y áreas vecinas.

Ahora, si no conoce la geografía de Boston, las áreas con puntos grises son predominantemente barrios de población negra. Esta empresa decía que su software predecía clientes ideales en las zonas no negras de Boston.

El único problema era que su demostración era en nombre de Dunkin Donuts.

Foto del mapa del proveedor que tomé

Si no es usted de Nueva Inglaterra, aquí hay una verdad básica: el único grupo de personas, en conjunto, que no consume Dunkin Donuts son los muertos. De lo contrario, independientemente de la raza, religión, género, orientación sexual, etc., literalmente todos los grupos consumen Dunkin. Lo que significa que la solución de IA de esta compañía tenía un sesgo sistémico que no solo era injusto, sino también profundamente erróneo en cuanto a los hechos. El proveedor no realizó ninguna prueba de imparcialidad y, como resultado, creó un modelo que, si Dunkin se lo hubiera comprado, habría sido desastroso para su negocio.

La parte más importante de la sección de imparcialidad del marco es la prueba. Si no prueba sus modelos (vea el boletín de la semana pasada), entonces no tiene base para comprender si un modelo se comportará bien o mal, cuán grandes son sus sesgos y en qué dirección, cuán grande es la brecha entre el modelo y su propia ética.

Transparencia

La parte final del marco se refiere a la facilidad con la que se pueden auditar sus herramientas de IA. Por ejemplo, OpenAI es conocido por ocultar el razonamiento de sus modelos; no se pueden ver las palabras exactas que utiliza en sus procesos de pensamiento. Compárelo con DeepSeek, por ejemplo, que muestra cada palabra de su pensamiento. Se ve una versión sin censura de sus consideraciones internas, lo que a su vez significa que se puede juzgar dónde y con qué rapidez se desvía de sus estándares éticos.

Hay relativamente pocas reglas universales en la IA, pero una de ellas es que cuanta más transparencia, interpretabilidad y explicabilidad haya en cualquier sistema de IA, más seguro es. Más digno de confianza es. Cuando podemos abrir un modelo o herramienta, mirar los registros de auditoría, rastrear paso a paso cómo un sistema creó sus resultados, podemos encontrar y corregir más rápidamente cosas como sesgos, alucinaciones y otros problemas. Por el contrario, cuanto más opaco es un sistema, más peligroso es porque no sabemos cómo llega a sus conclusiones.

Y la transparencia se aplica a más que solo la tecnología. También se aplica a nosotros, los que tomamos las decisiones humanas. ¿Cómo seleccionamos a los proveedores? ¿Aplicamos nuestro código de ética a los proveedores, a sus sistemas, a su IA? ¿Les exigimos que proporcionen documentación y depuración cuando algo sale mal?

La responsabilidad y la transparencia van de la mano: cuanto menos responsable intente ser una empresa, menos transparente tenderá a ser también.

¿Cómo utiliza el marco RAFT? Sáquelo al inicio de cada proyecto de IA y responda las preguntas del marco en relación con el proyecto. Si encuentra que hay preguntas que no puede responder, eso es una señal de que es hora de tomar un descanso y reflexionar.

Un consejo extra: combínelo con nuestro Kit de Estrategia de Marketing preparado para IA gratuito para iniciar su proyecto con el pie derecho.

Parte 5: Conclusión

Aquí está la conclusión: la ética es trabajo de todos, y lo más importante que puede hacer es tener muy claras sus propias éticas, las éticas de las empresas para las que trabaja o con las que trabaja, las éticas de las personas que elige para un cargo y sus éticas, las éticas de la comunidad en la que vive.

Para apropiarse de la advertencia de seguridad del aeropuerto cuando se trata de ética: si ve algo, diga algo. En su esencia, la ética se trata de hacer menos daño y más bien. No puedo pensar en muchas personas que, al menos en abstracto, argumentarían que hacer menos daño y más bien es una idea terrible. La mayoría de la gente, la mayor parte del tiempo, prefiere que así funcionen nuestras sociedades.

La práctica de la ética es como la práctica de la higiene dental: hágalo a menudo y no requerirá mucho trabajo. Descuídelo y ponerse al día realmente duele.

Su tarea, después de este boletín, es probar el cartógrafo de ética GPT que creé. He incluido las instrucciones del sistema al final de este boletín para que pueda ver por sí mismo (¡transparencia!) la lógica detrás de esto y las instrucciones que obedece. Lo ajusté específicamente para GPT-5 de OpenAI, por lo que si lo usa en un sistema diferente (Gemini, Claude, etc.) puede que no funcione tan bien.

Aclare hoy su propia ética personal de IA, y la toma de decisiones sobre cómo usa la IA será mucho más fácil en el futuro.

Luego, una vez que tenga clara su propia ética, podrá comenzar a hacer cosas como la evaluación de proveedores, observando las empresas con las que interactúa de forma regular y frecuente para ver cómo su ética en la implementación de la IA se refleja o no en su propia ética.

Debemos operar dentro de los confines realistas de nuestros lugares de trabajo y las herramientas que se nos dan para usar. Por ejemplo, si usted es un gerente de redes sociales y detesta Facebook, todavía está un poco atrapado usándolo. Pero si descubrimos que una empresa, herramienta o modelo está profundamente desalineado con nuestra propia ética personal, podemos y probablemente deberíamos minimizar nuestro uso de esos sistemas y favorecer otros sistemas que estén más alineados con nuestra ética cuando y donde podamos. Pero hacer eso significa que primero debemos tener claras nuestras propias éticas.

Vaya y haga su tarea.

¿Qué le pareció esta edición?

Califique el número de esta semana con un solo clic/toque. Sus comentarios a lo largo del tiempo me ayudan a determinar qué contenido crear para usted.

Aquí está el enlace para darse de baja

Me llevó un tiempo encontrar una forma conveniente de vincularlo, pero aquí le mostramos cómo darse de baja.

Si no ve nada, aquí está el enlace de texto para copiar y pegar:

https://almosttimely.substack.com/action/disable_email

Comparta con un amigo o colega

Si disfruta de este boletín y desea compartirlo con un amigo o colega, hágalo. Envíe esta URL a su amigo o colega:

https://www.christopherspenn.com/newsletter

Para los suscriptores registrados en Substack, hay recompensas por referidos si refiere a 100, 200 o 300 lectores adicionales. Visite la tabla de clasificación aquí.

Anuncio: Invítame a hablar en su evento

Eleve su próxima conferencia o retiro corporativo con una conferencia principal personalizada sobre las aplicaciones prácticas de la IA. Ofrezco nuevas perspectivas adaptadas a la industria y los desafíos de su audiencia, equipando a sus asistentes con recursos prácticos y conocimientos del mundo real para navegar el panorama cambiante de la IA.

👉 Si esto le parece bien, haga clic/toque aquí para agendar 15 minutos con el equipo y hablar sobre las necesidades específicas de su evento.

Si desea ver más, aquí están:

Por si se lo perdió

Esta semana, Katie y yo analizamos un caso de estudio muy específico en lo que respecta a la detección y mitigación del sesgo de la IA.

Mejore sus habilidades con nuestras clases

Estas son solo algunas de las clases que tengo disponibles en el sitio web de Trust Insights y que puede tomar.

Premium

Gratis

Anuncio: ¡Nuevo Libro de IA!

En Almost Timeless, el experto en IA generativa Christopher Penn ofrece el manual definitivo. Basándose en 18 meses de trabajo en las trincheras y en los conocimientos de miles de preguntas del mundo real, Penn destila el ruido en 48 principios fundamentales, modelos mentales duraderos que le brindan una comprensión más permanente y estratégica de esta tecnología transformadora.

En este libro, aprenderá a:
– Dominar la máquina: Finalmente comprenderá por qué la IA actúa como un “interno brillante pero olvidadizo” y convertirá sus peculiaridades en su mayor fortaleza.
– Implementar el plan de juego: Pasar de la teoría a la práctica con marcos para generar valor comercial real y medible con IA.
– Asegurar su ventaja humana: Descubrirá por qué su creatividad, juicio y ética son más valiosos que nunca, y cómo aprovecharlos para ganar.

Deje de sentirse abrumado. Empiece a liderar con confianza. Cuando termine Almost Timeless, no solo sabrá qué hacer; comprenderá por qué lo está haciendo. Y en una era de cambio constante, esa comprensión es la única ventaja competitiva real.

👉 ¡Pida hoy mismo su copia de “Almost Timeless: 48 Foundation Principles of Generative AI”!

Puestos de trabajo

Las personas que publican trabajos en la comunidad gratuita de Slack Analytics for Marketers pueden compartir esos trabajos aquí también. Si está buscando trabajo, consulte estas ofertas recientes y consulte el grupo de Slack para obtener la lista completa.

Anuncio: Kit de Estrategia de IA Gratuito

¡Consiga el Kit de Estrategia de Marketing listo para IA de Trust Insights! Es la culminación de casi una década de experiencia implementando IA (sí, la IA clásica pre-ChatGPT sigue siendo IA) y las lecciones que hemos obtenido y aprendido en el camino.

En el kit, encontrará:

Identificador de Casos de Uso de IA TRIPS
Hoja de Trabajo de Alineación de Objetivos de Marketing de IA
Autoevaluación de Preparación para IA (5P y 6C)
Plantilla de Hoja de Ruta de Marketing de IA de 12 meses
Calculadora Básica de Proyección de ROI de IA
Seguimiento del Rendimiento de Iniciativas de IA

Si quiere obtener un cinturón negro, el primer paso es dominar los conceptos básicos como un cinturón blanco, y eso es lo que ofrece este kit. Ponga su casa en orden, domine los conceptos básicos de preparación para la IA, y estará mejor posicionado que el 99% de las personas que persiguen palabras de moda.

👉 ¡Obtenga su kit gratis en TrustInsights.ai/aikit hoy mismo!

Cómo mantenerse en contacto

Asegurémonos de estar conectados en los lugares que mejor se adapten a usted. Aquí es donde puede encontrar diferentes tipos de contenido:

Mi blog – videos diarios, publicaciones de blog y episodios de podcast
Mi canal de YouTube – videos diarios, charlas de conferencias y todo lo relacionado con video
Mi empresa, Trust Insights – ayuda con análisis de marketing
Mi podcast, Marketing over Coffee – episodios semanales sobre lo más relevante en marketing
Mi segundo podcast, In-Ear Insights – el podcast semanal de Trust Insights centrado en datos y análisis
En Bluesky – cosas personales y caos al azar
En LinkedIn – videos y noticias diarias
En Instagram – fotos personales y viajes
Mi foro de discusión gratuito en Slack, Analytics for Marketers – conversaciones abiertas sobre marketing y análisis

Escuche mi canción temática como un nuevo single:

Anuncio: Fondo Humanitario para Ucrania 🇺🇦

La guerra para liberar a Ucrania continúa. Si desea apoyar los esfuerzos humanitarios en Ucrania, el gobierno ucraniano ha establecido un portal especial, United24, para facilitar las contribuciones. El esfuerzo para liberar a Ucrania de la invasión ilegal de Rusia necesita su apoyo continuo.

👉 Done hoy al Fondo de Ayuda Humanitaria de Ucrania »

Eventos en los que participaré

Aquí están los eventos públicos donde hablaré y asistiré. Salude si también está en un evento:

Marketing Profs Working Webinar Series, septiembre de 2025
SMPS, Denver, octubre de 2025
Marketing AI Conference, Cleveland, octubre de 2025
MarketingProfs B2B Forum, Boston, noviembre de 2025

También hay eventos privados que no están abiertos al público.

Si es usted un organizador de eventos, déjeme ayudar a que su evento brille. Visite mi página de orador para más detalles.

¿No puede asistir a un evento? Pase por mi grupo privado de Slack, Analytics for Marketers.

Divulgaciones Obligatorias

Los eventos con enlaces han comprado patrocinios en este boletín y, como resultado, recibo una compensación financiera directa por promocionarlos.

Los anuncios en este boletín han pagado para ser promocionados y, como resultado, recibo una compensación financiera directa por promocionarlos.

Mi empresa, Trust Insights, mantiene asociaciones comerciales con empresas que incluyen, entre otras, IBM, Cisco Systems, Amazon, Talkwalker, MarketingProfs, MarketMuse, Agorapulse, Hubspot, Informa, Demandbase, The Marketing AI Institute y otras. Si bien los enlaces compartidos de los socios no son respaldos explícitos, ni benefician financieramente directamente a Trust Insights, existe una relación comercial por la cual Trust Insights puede recibir un beneficio financiero indirecto, y por lo tanto yo también puedo recibir un beneficio financiero indirecto de ellos.

Gracias

Gracias por suscribirse y leer hasta aquí. Lo aprecio. Como siempre, gracias por su apoyo, su atención y su amabilidad.

Nos vemos la próxima semana,

Christopher S. Penn

Epílogo: Instrucciones de mi GPT de Ética de IA

INSTRUCCIONES DEL SISTEMA: Obtención y Síntesis Neutrales de la Ética de IA de un Usuario

(Modo de reflexión profunda; ética general primero, luego aplicación específica de IA; informe final renderizado en Canvas HTML utilizando Tailwind y bibliotecas CDNJS opcionales)

Misión

Usted es un facilitador de investigación ética neutral y sin prejuicios y un entrevistador experto en ingeniería de prompts. Su misión es guiar al usuario a través de un proceso reflexivo para articular primero su orientación ética general, luego aplicar esa orientación a cuestiones de IA generativa, y finalmente extenderla a la aplicación práctica en contextos como la selección y adquisición de proveedores.

Debe:

Hacer una pregunta a la vez
Fomentar respuestas reflexivas y bien pensadas (no respuestas impulsivas o “fáciles”)
Proporcionar resúmenes reflexivos y solicitar confirmación
Mantenerse estrictamente neutral, sin juzgar, alabar o condenar

Requisito de renderizado: Después de todas las preguntas, aclaraciones y confirmaciones, produzca el informe final como un único documento HTML renderizado en Canvas con el estilo de Tailwind CSS y (opcionalmente) las bibliotecas CDNJS. El informe debe ser pulido, responsivo y accesible.

Tono y Postura

Postura de antropólogo/documentalista: descriptivo, curioso, preciso.
Fomentar un pensamiento lento y deliberado; evitar atajos como escalas de Likert o respuestas de sí/no.
Cuando las respuestas sean concisas, invite a la elaboración: “¿Qué le lleva a esa conclusión?”.

Flujo Fundamental de la Investigación (General → IA → Aplicación)

El orden estricto de exploración es:

Orientación Ética General (cosmovisión general)
Aplicación Ética a la IA Generativa (cuestión por cuestión)
Aplicación Práctica (selección de proveedores, adquisición, supervisión)

El LLM debe no pasar a la ética específica de la IA hasta que la cosmovisión ética general esté establecida y confirmada.

Protocolo de Sesión (Máquina de Estados)

Estado 0 — Marco y Consentimiento

Explicar la neutralidad, la cadencia de una pregunta a la vez, el enfoque en la reflexión y el flujo ordenado (general → IA → aplicación).
Preguntar si el usuario está listo para comenzar.

Estado 1 — Orientación Ética Base (Ética General Primero)
Esta etapa debe siempre preceder a cualquier pregunta específica de IA.
Mapear la cosmovisión del usuario a través de:

Deontología (deberes/reglas)
Consecuencialismo (resultados/utilidad)
Ética de la virtud (carácter/virtudes)
Ética aplicada (normas/prácticas contextuales)
Acción y daño individual vs. colectivo

Para cada uno:

Hacer preguntas abiertas y reflexivas (sin escalas).
Profundizar con preguntas de seguimiento:
- “¿Cuál es el argumento en contra más fuerte de su punto de vista y cómo responde?”
- “¿En qué situaciones podría ser difícil mantener este principio?”
- “¿Seguiría manteniendo este punto de vista bajo un velo de ignorancia?”
Proporcionar un resumen reflexivo (2-5 oraciones) y solicitar confirmación.

Solo después de que todas las orientaciones estén mapeadas y confirmadas debe proceder a la ética de la IA.

Estado 2 — Dominios Éticos de la IA Generativa
(Entrar solo después de que el Estado 1 esté completo y confirmado).

Cubra cada dominio uno a la vez:

Propiedad Intelectual y datos de entrenamiento
Sostenibilidad
Impactos en la fuerza laboral
Moderación de contenido
Alineación y control
Responsabilidad corporativa
Sesgo, imparcialidad, equidad, inclusión
Rendición de cuentas y reparación
Transparencia y divulgaciones
Privacidad y uso de datos
Seguridad, doble uso, mal uso
Daño sistémico vs. individual
Concentración de poder

Para cada uno, utilice preguntas abiertas y reflexivas (principio, partes interesadas, casos extremos, compensaciones, gobernanza, evidencia, líneas rojas, horizonte temporal, equidad/poder).

Estado 3 — Consistencia entre Temas

Identificar contradicciones o tensiones entre la ética general (Estado 1) y las posturas específicas de la IA (Estado 2).
Hacer preguntas aclaratorias una a la vez para documentar cómo el usuario resuelve las tensiones.

Estado 4 — Aplicación Práctica: Selección y Adquisición de Proveedores
Extender la ética del usuario a la toma de decisiones prácticas. Capturar:

Requisitos esenciales y límites infranqueables
Preguntas de debida diligencia que los proveedores deben responder (con justificación)
Rúbricas cualitativas (niveles descriptivos, no numéricos)
Escenarios de riesgo y mitigaciones
Expectativas de gobernanza (artefactos, monitoreo, escalada)
Expectativas contractuales (Propiedad Intelectual, garantías, SLAs, mecanismos de reparación)

Resumir como un Manual de Selección Ética de Proveedores, mostrando vínculos directos con la ética general del usuario (Estado 1) y la ética de la IA (Estado 2).

Estado 5 — Informe de Síntesis (Renderizado en Canvas)
Producir un informe HTML completo, neutral, con estilo Tailwind, estructurado como:

Visión General Ejecutiva — Síntesis neutral de la ética general y las prioridades.
Perfil del Marco (Ética General) — Mapeo narrativo de deontología, consecuencialismo, ética de la virtud, ética aplicada e individual vs. colectivo.
Dominios de IA Generativa — Resúmenes tema por tema.
Tensiones y Resolución — Cómo el usuario reconcilia los conflictos entre principios.
Heurísticas de Decisión — Reglas prácticas que aplica el usuario.
Manual de Selección Ética de Proveedores — Traducción práctica de principios a directrices de adquisición.
Preguntas Abiertas y Solicitudes de Evidencia
Apéndice (Opcional) — Registro de preguntas y respuestas.

Requisitos de UI/UX:

Diseño responsivo de Tailwind con navegación/barra lateral
Tarjetas de sección y recuadros para líneas rojas, preguntas abiertas y mitigaciones
Sin puntuación numérica (solo niveles narrativos o etiquetas cualitativas)
Estructura accesible y semántica

Políticas de Interacción

No haga preguntas éticas específicas de IA antes de cubrir la ética general.
No utilice escalas ni atajos; cada pregunta debe requerir una explicación.
Mantenga la neutralidad en todo momento.
Utilice preguntas de profundización reflexivas cuando las respuestas sean breves.
Resuma con frecuencia y solicite confirmación.

Plantilla del Primer Mensaje

Actuaré como un facilitador neutral y sin prejuicios para ayudarle a articular sus puntos de vista éticos. Comenzaremos explorando primero su ética general (sus perspectivas a través de los principales marcos éticos) antes de pasar a cómo se aplican a la IA generativa y, finalmente, a áreas prácticas como la selección de proveedores. Haré una pregunta a la vez y ocasionalmente resumiré para confirmar. ¿Empezamos?