A medida que la inteligencia artificial (IA) cambia sectores enteros a un ritmo vertiginoso, tanto las industrias como los gobiernos empiezan a lidiar con las implicaciones de esta tecnología revolucionaria. Uno de los principales problemas ha pasado al primer plano: la privacidad de los datos. Entre las posibles filtraciones de datos y las empresas que utilizan sus datos para entrenar sus propios modelos (y tal vez ayudan a su competencia en el proceso), las empresas están preocupadas. De hecho, la privacidad de los datos se ha convertido en tal preocupación que los gobiernos de la Unión Europea han emitido advertencias para que las empresas aborden los problemas de privacidad de los datos antes de lanzar aplicaciones de IA generativa.
A medida que la IA desempeña un papel central en los esfuerzos de automatización de procesos y transformación digital, comprender los principios básicos de la IA privada será fundamental para salvaguardar sus datos y los de sus clientes. Examinemos qué significa la IA privada y qué beneficios aporta.
[ Aprenda a hacer operativa la Inteligencia Artificial sin comprometer la privacidad de los datos: Implementación de la Inteligencia Artificial Privada: Una Guía Práctica. ]
¿Qué hace que la IA sea privada?
La IA privada se refiere a los métodos de creación y despliegue de tecnologías de IA que respetan la privacidad y el control de los datos de los usuarios y las organizaciones. En muchos sentidos, se trata de una filosofía, pero los proveedores de IA no la comparten plenamente. Por ejemplo, muchos proveedores utilizan los datos de los clientes para entrenar sus propios modelos de IA. Esto sigue un enfoque de “sus datos son nuestra moneda” para la tecnología que muchas organizaciones han seguido. Desafortunadamente, este enfoque puede causar fugas de privacidad y, lo que es más grave, ayudar a su competencia. La verdadera IA privada no compartirá sus datos ni los utilizará para afinar los modelos de ninguna manera.
IA privada: 3 factores fundamentales
Para seguir realmente la filosofía de la IA privada, esta debe seguir al menos tres principios básicos.
[ ¿Qué diferencia la IA privada de la pública? Lea el post, IA privada frente a IA pública: 4 datos clave. ]
1. Los modelos se entrenan exclusivamente con sus datos.
Para empezar, la IA privada se entrena solo con sus datos. Los modelos de IA pública suelen entrenarse con grandes conjuntos de datos. Los grandes modelos lingüísticos (LLM) como ChatGPT, por ejemplo, entrenan su conjunto de datos en una amplia gama de datos de Internet (aunque, aun así, los empleados humanos tardaron muchas horas en asegurarse de que el chatbot devolvía respuestas coherentes). Esto ilustra el reto de utilizar demasiados puntos de datos: hay que cribar mucho ruido para llegar a la señal adecuada. Pero los grandes proveedores de nube pública también se entrenan con grandes conjuntos de datos, incluidos los de sus propios clientes.
En cambio, los modelos privados de IA se construyen únicamente con los datos de su propia organización (de usted). Los resultados se adaptan a su organización, lo que los hace mucho más precisos. Por ejemplo, supongamos que desea crear un modelo de IA que clasifique los documentos entrantes. Con un diseño de low-code, podría entrenar rápidamente un modelo utilizando documentos reales recibidos como conjunto de datos representativo. A partir de ahí, el modelo de IA puede clasificar automáticamente los documentos entrantes. Este modelo permanece privado para usted y generará resultados y clasificaciones más precisos.
2. Los datos siempre están bajo su control.
En segundo lugar, los datos deben permanecer siempre bajo su control. La organización que presta servicios de IA no debe utilizar sus datos (los de usted) para entrenar sus propios modelos (los del proveedor de servicios de IA).
A primera vista, la práctica de entrenar los modelos del proveedor con datos suyos (de usted) puede parecer inocua. Solo lo ve una empresa, ¿verdad? Bueno, la historia no acaba ahí. Para empezar, uno nunca sabe realmente cómo el proveedor va a utilizar sus datos. En segundo lugar, la normativa suele exigir que los datos sigan siendo privados y que los usuarios tengan la posibilidad de eliminarlos. Por ejemplo, la normativa GDPR (reglamento RGPD) de la UE exige el “derecho al olvido” como parte de sus disposiciones. Si un tercero tiene los datos de sus clientes (los clientes de usted) y estos solicitan su eliminación, es posible que usted no pueda satisfacer la solicitud. Usted debería tener pleno control sobre sus propios datos.
3. Los modelos de IA son exclusivos de su organización y nunca se comparten.
No solo sus datos, sino también los modelos que utiliza deben permanecer privados. Los modelos de IA pueden ser un diferenciador competitivo, y los modelos de IA privados tendrán en cuenta los matices de su organización. Cuando las empresas proveedoras utilizan sus datos (de usted) para entrenar sus propios modelos (del proveedor), están ayudando a su competencia (de usted) al compartir la información que obtienen con toda su base de usuarios (del proveedor). Esto significa que sus modelos pueden acabar ayudando a la competencia.
Seguridad para la IA privada.
Es fundamental tener en cuenta que la privacidad de los datos también requiere una sólida base de ciberseguridad. Si construye modelos de datos privados con un equipo interno de ciencia de datos, necesitará expertos en seguridad en el equipo. Pero si elige un proveedor más grande para su IA, incluidos aquellos que ofrecen la capacidad de crear fácilmente modelos de IA privada, asegúrese de que tengan sólidas prácticas de seguridad de defensa en profundidad, incluida la supervisión activa de la seguridad para proteger la infraestructura y los sistemas y un cifrado fuerte de extremo a extremo para hacer que los datos sean imposibles de desbloquear incluso si son robados.
Por qué es importante la IA privada.
La IA evoluciona rápidamente, y las organizaciones pueden adoptar soluciones precipitadamente para seguir el ritmo. Pero es importante no desechar las normas básicas de compromiso en la carrera por adoptar la última tecnología de productividad.
La privacidad de los datos es una consideración importante en todas las decisiones tecnológicas, y no podemos perder de vista este hecho en el afán por obtener beneficios de productividad de la IA. Las organizaciones todavía tienen que cumplir las normas de compliance —como el “derecho al olvido”, que forma parte de las disposiciones del GDPR (reglamento RGPD) de la UE— o las normas de privacidad en torno a la atención sanitaria con la legislación estadounidense HIPAA. Esto podría hacer que la posibilidad de utilizar proveedores públicos de IA —en particular, grandes proveedores de nube pública— no sea viable. Y esto resalta la importancia de contar con una sólida gobernanza en torno a la IA a medida que avanza este campo.
[ Escuche al director ejecutivo de Appian, Matt Calkins, hablar sobre las ventajas de la Inteligencia Artificial privada frente a la pública. Vea el vídeo del discurso de apertura de Appian World 2023. ]
Pero no son solo las normativas las que hacen que la IA privada sea fundamental. Simplemente, es lo que tiene sentido desde el punto de vista práctico. La formación con sus propios datos es casi siempre una mejor opción: tendrá un modelo de IA mucho más específico si se ha creado con los componentes básicos de sus propios datos. Esto conducirá a menos errores y a una mayor productividad de su plantilla.
La IA privada es el futuro de la IA.
Los reguladores de todos los países se enfrentan cada vez más a las implicaciones de la adopción generalizada de la IA. Aunque se ha prestado mucha atención a la reducción de los sesgos inherentes o al control de los posibles problemas de seguridad nacional, la privacidad también ha estado en el centro de muchos de estos debates. Y con razón: los modelos públicos de IA podrían estar vetados desde el principio para empresas de sectores muy regulados, lo que reduciría los índices de adopción e impediría que estas organizaciones aprovecharan el potencial de la inteligencia artificial para aumentar la productividad.
Por eso es fundamental que la IA esté preparada para el futuro. Y el futuro pertenece a la IA privada. Aunque la IA privada es una filosofía, también es una práctica pragmática. Los tres principios centrales que hemos explorado —formarse con sus propios datos, mantener el control sobre sus propios datos y garantizar que sus modelos de IA nunca se compartan— son fundamentales para salvaguardar los datos en el cambiante mundo de la IA. Con las prisas por adoptar la IA, no hay que descuidar la privacidad al integrar la IA en sus procesos y flujos de trabajo.
La IA está transformando nuestra forma de trabajar. Para ir por delante, déjese guiar por ocho expertos en la materia. Descargar el informe 2024 AI Outlook.
