Lenguaje, comportamiento humano y tecnologías inteligentes

Por: DICTA

Fuente imagen: Pixabay. “(…), a la hora observar el impacto de la IA en la conducta humana, estamos en presencia de un proceso de progresiva imbricación de los sistemas sociales con el aparato tecnocientífico.”

Rodrigo Fernández, sociólogo y Magíster en Economía Aplicada de la Facultad de Ciencias Físicas y Matemáticas de la Universidad de Chile, y con distintos estudios sobre Inteligencia Artificial (IA), respondió a las preguntas de DICTA. Su agudeza y sentido crítico nos ofrecen una visión más profunda e incluso provocadora sobre las proyecciones de la IA, su impacto y relación con la conducta humana. Especialmente vale la pena destacar su perspectiva sobre la existencia per se de las máquinas inteligentes en el contexto humano. 

Sin más preámbulos, los invitamos a leer directamente sus interesantes apreciaciones y experiencias que vinculan los tres campos de conocimiento: sociología, economía, tecnologías inteligentes.

DICTA:

Desde tu perspectiva como economista y sociólogo, ¿qué visión tienes sobre el impacto de la IA en la conducta humana?

Rodrigo Fernández responde:

Como primer punto es relevante distinguir qué es lo que constituye a la IA, dado que suele confundirse con el reconocimiento de patrones o la capacidad predictiva de un modelo. Una tecnología con la capacidad de anticipar problemas financieros, de reconocer imágenes o de clasificar texto puede constituir un sistema de reconocimiento de patrones muy sofisticado, pero no necesariamente constituye una tecnología inteligente. Una pregunta fundamental en este sentido es ¿en qué se reconoce la inteligencia de una tecnología? En el caso particular del lenguaje humano, la inteligencia puede ser reconocida en su nivel pragmático, vale decir, aquellos elementos que dotan de contexto al intercambio lingüístico. Comúnmente llamamos “doble sentido” a estos elementos, lo cual representa un verdadero dolor de cabeza para las bases lógicas de la computabilidad. En concreto, si bien los desarrollos tecnológicos han permitido capturar los elementos morfosintácticos y fonoaudiológicos del lenguaje, no han permitido dotar a las máquinas de sentido del humor o, en el caso nacional, reconocer el uso de términos polisémicos como la palabra “webón”.

Por otro lado, a la hora observar el impacto de la IA en la conducta humana, estamos en presencia de un proceso de progresiva imbricación de los sistemas sociales con el aparato tecnocientífico. En particular, cuando entendemos que los datos son la principal fuerza motriz de nuestro siglo lo que queremos decir es que los datos ya no son meros antecedentes de las cosas, sino que forman parte de las cosas mismas. Desde una perspectiva económica esto queda de manifiesto en las críticas a los enfoques econométricos tradicionales luego de la crisis del subprime durante el año 2008, ya que  – modelos más modelos menos –  lo cierto es que la forma de enfocar los problemas financieros no ha dado el ancho para quienes deben tomar decisiones de política.

Una pregunta fundamental en este sentido es ¿en qué se reconoce la inteligencia de una tecnología? En el caso particular del lenguaje humano, la inteligencia puede ser reconocida en su nivel pragmático, vale decir, aquellos elementos que dotan de contexto al intercambio lingüístico.

Del mismo modo, en el campo de las ciencias sociales no hemos sido capaces de comprender los mecanismos involucrados en la actual crisis social y política a nivel mundial. Mucho se ha hablado sobre desigualdad, pero no se aprecia una comprensión que vaya más allá de los clásicos indicadores económicos para identificar condiciones contables de pobreza.

En ambos casos, creo que el impacto de la IA sobre la conducta humana recae sobre la necesidad de una mejor representación de las unidades de análisis con las que intentamos explorar fenómenos económicos y sociales. Concretamente, en ambos campos disciplinares se sigue trabajando empíricamente a nivel de individuos representados sobre una tabla, sin considerar las distintas posibilidades de representar distintas entidades económicas (empresas, directorios, instituciones reguladoras) y sociales (familias, hogares, clases sociales) en grafos o redes para capturar de mejor manera la naturaleza relacional de la vida económica y social. Por su parte, un grafo es una estrategia para representar datos en los cuales las entidades (o actores en el dominio social) se encuentran conectados por aristas (o relaciones) que pueden ser de variada naturaleza (vínculos de parentesco, relaciones económicas, etc).

Fuente imagen: Pixabay. Mucho se ha hablado sobre desigualdad, pero no se aprecia una comprensión que vaya más allá de los clásicos indicadores económicos para identificar condiciones contables de pobreza. En ambos casos, creo que el impacto de la IA sobre la conducta humana recae sobre la necesidad de una mejor representación de las unidades de análisis con las que intentamos explorar fenómenos económicos y sociales.

DICTA:

Te has especializado en temas de la IA, ¿por qué has considerado importante trabajar en ese aprendizaje y a qué nuevos descubrimientos te ha conducido este proceso?

Rodrigo Fernández responde:

Toda la historia de la tecnología puede resumirse en la búsqueda de la diferenciación de las funciones del cuerpo, independientemente de la naturaleza de este último. De alguna manera, el desarrollo tecnológico representa una de las dimensiones más disruptivas de nuestra ontogénesis (el plano de la realidad no “natural”), ya que sus resultados permiten compensar distintas carencias filogenéticas o biológicas, que son propias de nuestra especie. Cuando Marx pregunta sobre qué es lo que diferencia a la mejor araña del peor obrero a la hora de tejer, su respuesta apunta a que el acto de tejer no está inscrito en nuestras bases biológicas, por lo que el propósito y medios para estos actos no son fijos para nosotros.

En este sentido, considero importante trabajar con estos aprendizajes ya que independientemente de la tecnología y sus campos de aplicación, la IA puede ser considerada como el principio del fin de nuestra prehistoria.

En relación a los descubrimientos en mi experiencia profesional, en enseñanza de las ciencias sociales siempre se ha considerado a la escisión entre las técnicas cuantitativas y cualitativas como un dogma, un mantra, pero a la vez un karma. Esta escisión entre lo cuantitativo y lo cualitativo es heredera de las viejas deudas de la filosofía neokantiana en torno a las ciencias de la naturaleza versus las ciencias del espíritu, algo que también remite a esta cultura cristiano humanística. Lo anterior puede ser notado en la actitud conservadora y reaccionaria de la mayoría de las escuelas de ciencias sociales en torno al tema, de manera análoga a cómo en las escuelas de ingeniería se consideran a las artes y humanidades como meros pasatiempos. Es en este punto, donde los desarrollos en IA me han permitido apreciar con claridad la crisis de nuestro modelo de conocimiento dominado por un profundo pensamiento gremial, el cual no puede ser considerado sino hilarante.

Fuente imagen:Pixabay. “(…), la IA puede ser considerada como el principio del fin de nuestra prehistoria.”

En el transcurso de mi experiencia en la industria, el sector público, la docencia y la investigación académica, considero que el principal descubrimiento en torno al trabajo con el lenguaje humano radica en que esta separación entre lo cuantitativo y lo cualitativo responde más a las restricciones tecnológicas de épocas pasadas, las que han sido canonizadas epistemológicamente dando como resultado la transformación de la ignorancia en una virtud. Ahora bien, en términos más concretos, he tenido la oportunidad de participar en el desarrollo de sistemas para la asignación de demandas y reclamos, así mismo como en sistemas para la gestión documental en el sector público, identificar aspectos lingüísticos involucrados en la propagación de mensajes en redes sociales, la atribución conductual en clientes de e-commerce y automatización de procesos para call centers. No obstante, considero que lo más importante es aquello que queda por descubrir, en particular estos aspectos del nivel pragmático del lenguaje como, por ejemplo, una máquina que sepa escribir buenos poemas (porque son pésimas en ello) o de comprender buenos chistes. Más allá de que estos ejemplos parezcan livianos, lo que se esconde por debajo es la capacidad que tengan las máquinas de asistir procesos que exijan la comprensión de problemas, y no su mero entendimiento.

En relación a los descubrimientos en mi experiencia profesional, en enseñanza de las ciencias sociales siempre se ha considerado a la escisión entre las técnicas cuantitativas y cualitativas como un dogma, un mantra, pero a la vez un karma.

DICTA:

En este momento, ¿cuáles son las tecnologías de la IA en el análisis del lenguaje y cómo funcionan?

 

Rodrigo Fernández responde:

Las principales técnicas y métodos involucrados en el análisis del lenguaje humano se mueven en el nivel morfosintáctico y fonoaudiológico.

Sobre lo primero, ya existen desarrollos considerables para algoritmos capaces de analogar expresiones equivalentes, como por ejemplo cuando comprendemos que un perro y un gato comparten el hecho de ser tratados como mascotas. Por muy trivial que parezca este ejemplo, lo que está detrás es un proceso de desambiguación literal de términos en el que intervienen metodologías basadas en grafos para comparar la distancia entre términos diferentes que son conectados  “gracias” a un término que les es común. Como vimos más arriba, un grafo es un conjunto de nodos conectados por aristas, y en este caso cada nodo corresponde a una palabra, mientras que cada arista representa la frecuencia con la que se utilizan de manera conjunta.

Lo anterior reconoce que el lenguaje puede ser codificado en un aspecto estático donde cada palabra o secuencia de ellas puede ser entendida como una categoría o etiqueta dentro de nuestros datos, mientras que la cantidad de veces que esa etiqueta es usada constituye un conjunto de frecuencias sobre lo cual pueden calcularse distintas métricas de correlación. De este modo, podremos conocer cuáles son las expresiones recurrentes en torno a una que capture nuestro interés. Por otro lado, es posible representar la naturaleza dinámica del lenguaje mediante estrategias que permiten capturar el paso del tiempo sobre nuestras expresiones lingüísticas, es decir, cada expresión puede ser entendida como el antecedentes o consecuente de otras, lo cual puede ser modelado mediante series de tiempo o datos de panel en formatos planos, o en grafos dinámicos para estructuras más complejas.

Sobre el segundo, los sistemas de reconocimiento de la voz humana también han avanzado de manera considerable a la hora de transformar los distintos fonemas de una expresión en vectores de datos que pueden ser modelados para el reconocimiento de expresiones literales. Lo anterior actúa mediante la descomposición de la señal sonora en distintas unidades acústicas que permiten identificar los fonemas. Acá el desafío es el reconocimiento de aquellas palabras que se escriben diferente pero que suenan del mismo modo (por ejemplo “ola” y “hola”), y es por eso que estas tecnologías no operan “palabra a palabra”, sino mediante algoritmos de desambiguación como los descritos más arriba. De este modo, el reconocimiento de voz en contextos más complejos requiere de un conjunto de datos y modelos de desambiguación más amplios para un trabajo de mayor precisión.

Tal y como comentaba al inicio, estas tecnologías aún no tienen la capacidad de codificar de manera correcta los aspectos que componen el nivel pragmático del lenguaje, es decir, aún no son capaces de reconocer con precisión los elementos de contexto del intercambio lingüístico. Quizás en esto interviene un concepto de comunicación que está acotado a la transmisión de señales, y no al hecho de que los seres humanos tenemos capacidad de escucha activa, lo que de alguna manera implica que la comunicación está más relacionada con las expectativas que el hablante se forma sobre el oyente al momento de constituir un acto de habla, que a la mera transmisión. Considero que en este aspecto, la interoperabilidad con datos provenientes de otros dominios permitirá avanzar de mejor manera al respecto (por ejemplo, incorporar datos de imagen, temperatura, localización, etc), donde los desarrollos en robótica podrían tomar la delantera en el futuro.

Fuente imagen: Pixabay. “(…) el desarrollo de los ecosistemas de IoT empujarán de manera inevitable la necesidad de una relación orgánica con el aparato tecnocientífico.”

DICTA:

Específicamente, en cuanto al área del Internet de las cosas, cómo va  a influir en el desarrollo de la vida social.

Rodrigo Fernández responde:

Los ecosistemas de IoT (interfaz con aplicación al internet de las cosas) son redes de dispositivos interconectados inalámbricamente, que capturan los datos de todo tipo de cosas en tiempo real, como por ejemplo, la temperatura en cultivos, el nivel de llenado de un basurero, etc. Estas tecnologías permitirán la datificación total de nosotros y nuestro entorno mediante el escalamiento de distintos sistemas de sensores, tanto a nivel físico, químico, social, etc., pero también hay que considerar que los ecosistemas de IoT,  se basan en la implementación de sistemas de actuación sobre el entorno, lo que es constitutivo de los sistemas ciberfísicos con capacidad de coordinación sin la necesidad de asistencia humana. En este sentido, el desarrollo de los ecosistemas de IoT empujarán de manera inevitable la necesidad de una relación orgánica con el aparato tecnocientífico. En este sentido, el desarrollo de la IoT permite considerar que las intuiciones que Asimov nos ofreciera desde la década del 30 del siglo pasado en relación a la robótica no están muy alejadas de nuestro porvenir.

Lo anterior requiere una visión de conjunto de la Historia de las revoluciones industriales. Una revolución no se caracteriza fundamentalmente por la velocidad de los cambios en la historia, sino por su carácter violento e irreversible. Al mismo tiempo, el apellido de “industrial” alude a la capacidad de escalar procesos de control sobre las distintas fuerzas motrices involucradas en la producción. En este sentido, si las dos primeras revoluciones industriales se jugaron su realidad en el control escalado de la energía física (vapor y electricidad), la tercera y cuarta se juegan su realidad en el control escalado de la información, vale decir, asistimos desde mediados del siglo XX a una gran transición marcada por un nivel superior de separación de funciones del cuerpo. Mientras que la tercera revolución industrial estuvo enfocada en la computabilidad, la  cuarta se juega su actualidad en la interconectividad. Es por esto que a la IoT se le considera como una cuarta revolución industrial, violenta, irreversible y en el nivel más alto de abstracción de la historia de la tecnología conocida.

Una revolución no se caracteriza fundamentalmente por la velocidad de los cambios en la historia, sino por su carácter violento e irreversible.

DICTA:

¿Puedes hacer una evaluación sobre los principales aspectos que a futuro consideras potencialmente positivos y negativos de la IA en relación con la conducta humana?

 

Rodrigo Fernández responde:

A la hora de revisar el impacto futuro de la IA en la conducta humana, creo que hay dos problemas derivados de nuestra cultura cristiano humanística al respecto.

En primer lugar, las preguntas sobre nuestra relación con el aparato tecnocientífico siempre han estado orientadas a cómo usar de “mejor manera” la tecnología. La definición de la tecnología en base a su (nuestro) uso no permite identificar aquellos aspectos que dotan a los objetos técnicos de una cierta independencia ontológica. Lo anterior alude a que la naturaleza de las estructuras y funciones involucradas en la tecnología contienen una lógica que les es propia, y que no dependen del uso que hagamos de ellas. De esta consideración, creo que uno de los impactos de la IA en la conducta humana será la necesidad de generar un aprendizaje humano en torno al funcionamiento de las máquinas, y no al revés como en general han supuesto las corrientes principales de la filosofía occidental (es lo que une a Platón, a la escolástica y gran parte del postmodernismo), con la excepción de algunas vertientes del monismo y la cibernética. Para lo anterior, es central una reconsideración sobre las formas en que comprendemos la educación técnica y humanística, lo que Gilbert Simondon denominó como la superación de una educación escindida en esclavos y señores. Lo anterior permitirá a la IA facilitar la apertura de nuevos campos de exploración que se suponían clausurados para las máquinas, tales como la estética, la ética y la práctica científica.

(…) creo que uno de los impactos de la IA en la conducta humana será la necesidad de generar un aprendizaje humano en torno al funcionamiento de las máquinas, y no al revés como en general han supuesto las corrientes principales de la filosofía occidental (…)

En segundo lugar, nuestra cultura tiene la peculiar tendencia a considerar como sistemas controlables a todo aquello que forma parte de un dominio no humano. En este sentido, el legado del liberalismo no ha hecho sino colocar un velo sobre la verdadera naturaleza de los sistemas sociales, los cuales sí son susceptibles de un margen control, tal y como lo han evidenciado el escándalo de Cambridge Analytica en relación a la capacidad que tiene la tecnología de orientar comportamientos electorales mediante herramientas de microsegmentación y aprendizaje reforzado a través de mensajes en redes sociales. 

En este sentido, si nos empecinamos en afrontar de manera moralista esta capacidad de control de los sistemas sociales moralistas, el “sueño de la razón” (el desarrollo tecnológico) seguirá engendrando monstruosidades. Lo anterior alude a la importancia de enfrentar nuestra ignorancia a la hora de convivir con nuestro aparato tecnocientífico, ya que será imposible deshacernos de él desde que entramos en el ciclo de las revoluciones industriales.

 

Rodrigo Fernández

Rodrigo Fernández es sociólogo de la Universidad de Chile. Magíster en Economía Aplicada de la Facultad de Ciencias Físicas y Matemáticas de la Universidad de Chile.  También cuenta con el Diploma en Ciencia e Ingeniería de Datos del Departamento de Computación de la Universidad de Chile y Diploma en Internet de las Cosas y sus aplicaciones a la industria de la Escuela de Ingeniería de la Pontificia Universidad Católica de Chile.

Ha realizado consultorías e investigaciones en diseño y conducción de estrategias y equipos en proyectos orientados por datos, tanto para el sector público como en el privado. Desarrollo de metodologías para la adquisición y tratamiento de datos para diversas estructuras y fuentes (desde encuestas de hogares a nivel nacional a datos en la web), así mismo en el modelamiento mediante técnicas de machine learning.

Ha sido docente en pre y postgrado en análisis de datos, métodos cuantitativos, fundamentos de estadística, procesamiento de lenguaje natural y análisis de redes sociales. Desde el año 2012 es docente del Departamento de Política y Gobierno de la Universidad Alberto Hurtado.

DIPLOMADO EN IA Y CONDUCTA HUMANA – DIACH

Este diplomado se realizará conjuntamente con la Universidad de Talca y la Fundación DICTA. “En el diplomado de Inteligencia Artificial y Conducta Humana (DIACH) ofrecemos al estudiante una formación básica de programación relacionada con la implementación de algoritmos de IA. Este aspecto incluye una parte teórica y una parte práctica. Al mismo tiempo cubrimos un aspecto de conducta humana centrado en la psicología cognitiva.”

“(…) el cuerpo de expositores es interdisciplinario, pues contiene no sólo informáticos y matemáticos, sino también psicólogos, neurocientíficos, abogados, lingüistas, entre otros.  Además, el cuerpo docente contiene un 30% de mujeres, lo que es bastante mayor a la media en el ámbito de la IA, pues el porcentaje de participación de mujeres en la mayoría de los trabajos relacionados a IA, y en la mayoría de los países, se encuentran por debajo del 15% (Young, Wajcman, & Sprejer, 2021).

Para más información sobre fechas, malla curricular, y más, puede pinchar en DIACH

Descargar PDF

Diagramación: Diana Martín, Oswaldo Romero

0 Comments

Submit a Comment

Su dirección de correo no se hará público. Los campos requeridos están marcados *

4 × 2 =

Contacto Revista DICTA

pserrano@dicta.cl

Copyright

©2020 Contenido abierto al público, distribuido bajo los términos de Licencia de atribución Creative Commons, que permite sin restricciones, distribución y reproducción por todo medio, mientras informe y mantenga créditos del autor original y fuente.