fbpx
Horizontum - Finanzas y Cultura
Innovaciones para una IA ética en 2019: FICO Innovaciones para una IA ética en 2019: FICO
El 2018 fue el año perfecto para hacerlo, ya que la IA y el aprendizaje automático maduraron de curiosidades mágicas a potentes herramientas de... Innovaciones para una IA ética en 2019: FICO

Por Scott Zoldi, Director Ejecutivo de Analítica en FICO

Sin lugar a dudas, el 2018 fue el Año de la Inteligencia Artificial —“31 sabores de IA”. Para mí en lo personal, el 2018 fue un periodo de intensa creatividad en torno a la IA. Mi puesto de Director Ejecutivo de Analítica es ideal porque me permite cumplir mi deseo de crear tecnologías nuevas y emocionantes para resolver los problemas reales que enfrentan los clientes de FICO. El 2018 fue el año perfecto para hacerlo, ya que la IA y el aprendizaje automático maduraron de curiosidades mágicas a potentes herramientas de negocio.

Conforme el 2018 llega a su fin, me encuentro cerrando el proceso de presentar mi séptima y octava solicitud de patente del año en Estados Unidos. Con esto, el total de patentes presentadas durante mi carrera asciende a 95: 45 otorgadas y 50 pendientes. Como lo dice en broma uno de mis colegas, estoy en el último sprint de “la carrera hacia las 100 patentes”.  

No es casualidad que gran parte de mi trabajo reciente en patentes sea la base de los cimientos de lo que predigo será el desarrollo más grande de la industria tecnológica en el 2019: la IA ética. Como científico de datos y miembro de la comunidad analítica global, desarrollar tecnología analítica ética es muy importante para mí, debido especialmente a que mi trabajo consiste en atender a los clientes de FICO.

Deprisa y corriendo para contribuir a la IA ética

A continuación, describo cómo se desarrolla mi trabajo reciente en patentes, para promover la adopción de una IA ética en la industria.

Blockchain: A pesar de que Bitcoin, la instancia más famosa de una ¨cadena de bloques¨, tuvo un mal año, esta tecnología subyacente es sumamente popular en las nuevas aplicaciones de negocio como el alquiler de autos. En 2018 me centré en la cadena de bloques y presenté una solicitud de patente (16/128,359 EUA) en torno al uso de la cadena de bloques para asegurar que todas las decisiones tomadas sobre un modelo de IA se registraran y auditaran. Dichas decisiones incluyen las variables y el diseño del modelo, los datos utilizados y la selección de funciones; así como la capacidad de ver sus funciones latentes, y todos los científicos que desarrollaron partes de los conjuntos de variables y los pesos del modelo. La suma y registro total de estas decisiones, brinda la visibilidad requerida para gobernar de manera eficaz los modelos y complacer a los reguladores.

Funciones latentes explicables: Otra patente (15/985,130 EUA) aborda la inmadurez de la industria de IA en general, la cual es dolorosamente evidente cuando la conversación se torna en una explicación de los algoritmos de aprendizaje automático.

En concreto, cuando los científicos de datos afirman que el aprendizaje profundo es una tecnología que cambia las reglas del juego, las preguntas sobre los detalles de los patrones aprendidos en una red neuronal superficial o profunda casi siempre se responden con un silencio perplejo, incluso en las compañías más grandes. Esto es completamente inaceptable para cualquiera que debe hablar con un cliente sobre el modelo o presentárselo a un regulador. Basta considerar GDPR, que debe cumplirse en muchos de los negocios de nuestros clientes para entender qué responder, “Este… no sé” es inaceptable.

Mi patente de funciones latentes explicables “detona” un modelo de red neuronal en un modelo multicapa conectado dispersamente, tal que cada nodo oculto se puede explicar de manera concisa. Hace poco hablé sobre las funciones latentes explicables en un taller de innovación en la Reserva Federal de EUA, y el público mostró gran entusiasmo por integrar transparencia en los modelos en esta forma. Además, esta capacidad ya se integró en FICO® Analytics Workbench™, lo que ha permitido a los clientes de FICO construir estos modelos.

Eliminación de imparcialidad: Este tema de la IA ética es un poco más extenso. Busca restringir el tipo de datos que se introduciría en un modelo para evitar la imparcialidad —una piedra angular conceptual de la IA ética—. También he presentado dos patentes (15/981,755 EUA y 15/819,338 EUA) para permitir decidir con mayor facilidad si los datos específicos y las variables derivadas son aptos o no para un modelo. Por ejemplo, un modelo que considere la altura de una persona sería útil para calcular el costo de producción de un par de pantalones de mezclilla (que por lo general tienen el mismo precio, independientemente del largo de la entrepierna), pero no el potencial de ingresos del solicitante de un préstamo ni su capacidad crediticia.

Todas estas patentes caben a la perfección dentro del concepto de adopción regulativa de la IA ética, que se acelerará drásticamente en el 2019 conforme los cuerpos reguladores impongan el requisito de entender y explicar los modelos de IA destinados a impulsar las decisiones financieras actuales, incluyendo los miles de millones de decisiones impulsadas por todos los productos de FICO: desde la plataforma antifraude líder en la industria FICO® Falcon Platform hasta nuestras soluciones de AML y ciberseguridad más recientes.

Síganme en Twitter @ScottZoldi para ver cómo se desarrolla la IA ética en el 2019. 

Scott Zoldi, Director Ejecutivo de Analítica en FICO y responsable del desarrollo analítico de los productos y las soluciones tecnológicas de FICO.

Acerca de FICO

FICO (NYSE: FICO) impulsa las decisiones que ayudan a personas y empresas en todo el mundo a prosperar. Fundada en 1956 y con sede en Silicon Valley, la compañía es pionera en el uso de la analítica predictiva y la ciencia de datos para mejorar las decisiones operacionales. FICO cuenta con más de 192 patentes, en EE. UU. y el resto del mundo, de tecnologías que aumentan la rentabilidad, mejoran la satisfacción del cliente y el crecimiento de las empresas en las industrias de servicios financieros, telecomunicaciones, salud y venta minorista, entre muchas otras. Con las soluciones de FICO, empresas en más de 100 países realizan un sinfín de actividades: desde proteger 2.600 millones de tarjetas de pago contra el fraude y ayudar a las personas a obtener crédito hasta asegurar que millones de aviones y autos de alquiler se encuentren en el lugar correcto en el momento adecuado.

Más información en http://www.fico.com

FICO es una marca registrada de Fair Isaac Corporation en Estados Unidos y otros países.

Redacción Horizontum

Redacción Horizontum

Revista dedicada a las finanzas y cultura, comprometida en brindar información de calidad mediante artículos que abordan la realidad económica y financiera del país, así como los tópicos internacionales que nos impactan de manera directa.