Portada :: Conocimiento Libre
Aumentar tamaño del texto Disminuir tamaño del texto Partir el texto en columnas Ver como pdf 15-10-2018

La IA es un problema tecnolgico, es un problema econmico y social, es un problema poltico, o es una mezcla de todos?
Pensar sobre Inteligencia Artificial

Horacio Torvisco


Los sistemas de Inteligencia Artificial pueden desarrollar un deseo segn su propio criterio, que est en conflicto con los de los humanos, y que nos podra incluso destruir. En breve, la aparicin de una Inteligencia Artificial poderosa puede ser tanto lo mejor como lo peor que haya pasado nunca a la humanidad (Stephen Hawking)

Introduccin

La finalidad de este trabajo es invitar a la reflexin sobre el fenmeno de la Inteligencia Artificial (IA) poniendo de manifiesto algunas de sus alargadas sombras que han hecho, a cientficos del prestigio de Stephen Hawking, proferir inquietantes dudas sobre esta tecnologa. Se trata pues de reflexionar sobre un producto humano que hay que gestionar y lo ms importante, hay que responsabilizarse de l partiendo de la base de que esta tecnologa, como todas las dems, tiene que estar al servicio de la mayora de la humanidad y no al de intereses espurios de una minora.

Una vez ms la humanidad se enfrenta a la construccin de su futuro, conjugando el binomio tecnologa-tica que permanentemente le acompaa a lo largo de su historia, especialmente desde la Revolucin Industrial. Se trata, de manera consciente y plenamente humana, de rechazar un uso de la tecnologa sin reflexionar mnimamente sobre sus consecuencias. Los humanos, parafraseando a Aristteles, ni son dioses ni son bestias en el qu hacer cientfico, o por lo menos no deberan serlo.

La IA presenta diversos ngulos de anlisis que afectan a la vida humana: La economa, la produccin de bienes, los derechos humanos e incluso un planteamiento ontolgico que puede modificar el actual, visto desde el concepto del transhumanismo.

De qu hablamos cuando nos referimos a la IA

Se dice que estamos inmersos en una nueva y poderosa revolucin tecnolgica superior en sus consecuencias sociales, econmicas y polticas a la que supuso la Revolucin Industrial, teniendo en cuenta que esta signific un importante cambio en la produccin de bienes, mediante unas tecnologas y procedimientos que aumentaban la fuerza fsico productiva del humano. Sin embargo a lo que se enfrenta la humanidad en la actualidad con las tecnologas de la informacin y la comunicacin y muy especialmente con la IA y el big data, elemento bsico fuertemente imbricado con la IA para su plena operatividad, es a un cambio ms radical que afecta a algo mucho ms sensible en el humano, su cerebro, lugar donde se generan atributos tpicamente humanos y solo humanos, o por lo menos eso es lo que se crea hasta ahora.

Desde hace ya tiempo existen multitud de artefactos tecnolgicos que poseen, en mayor o menor medida, una capacidad de automatizacin en sus prestaciones que incorporan algo parecido a una inteligencia, pues actan y toman decisiones en funcin de algoritmos que manejan un determinado tipo de respuestas, ante un catlogo de situaciones perfectamente identificadas. En la actualidad con la IA y la disposicin masiva de datos, la referencia es a otra cosa mucho ms radical, novedosa y revolucionaria, basada en lo que se conoce como aprendizaje profundo (tambin deep learning) donde la mquina es capaz de incorporar nuevas e inditas respuestas a diferentes problemas a los que se pueda enfrentar. Existen ejemplos1 que corroboran esto donde, no solo la mquina vence al humano en juegos de cierta complejidad como el Ajedrez o el Go, juego chino ms complejo que el ajedrez, sino que ha vencido al humano, al parecer, en juegos como el Pker donde la victoria se alcanza no solo ni principalmente del conocimiento de sus reglas sino, en muchos casos y por las caractersticas del juego, por un anlisis de las respuestas de los jugadores basadas, ms que en llevar buena mano en convencer al contrario de ello, aunque eso no ocurra. Lo que indica que desde la IA se est explorando no solo campos que se mueven en la ms estricta racionalidad sino otros en el mbito de la intuicin y las emociones como forma de percepcin y solucin de problemas.

El aprendizaje profundo expresado de forma muy sucinta es un mtodo por el que se disean y ponen en prctica algoritmos, capaces de aprender del asunto de que se trate, mediante algo similar a lo que en el humano se conoce como experiencia, tomando como referencia el funcionamiento del cerebro humano, hasta donde actualmente se conoce este. Se le denomina "profundo" porque funciona mediante una estructura jerrquica de capas que extrae diferentes niveles de detalle de los datos en cuestin. Por ejemplo, durante el reconocimiento de imgenes se extraen bordes que, combinados, permiten detectar contornos, que a su vez permiten reconocer diferentes partes del objeto ya en forma tridimensional, lo cual posibilita determinar su identidad.

No obstante, el verdadero reto que se estn marcando los expertos en esta tecnologa sin un horizonte temporal claro, es la creacin de una mquina que sea capaz de incorporar eso que se llama sentido comn que es saber tomar decisiones de forma similar a como lo hara un humano en actos aparentemente sencillos para este pero especialmente complicados para cualquier mquina.

Impactos en la vida humana

Los impactos que la IA puede provocar en la vida humana son muy variados y numerosos dependiendo del campo que se analice, por lo tanto y para no tener que exponer un exhaustivo catlogo de los mismos, se trata de buscar aspectos comunes y generales.

Una de las funciones de los avances tecnolgicos cuando se aplican a la produccin de bienes y servicios, y la IA no es una excepcin, es la de ir prescindiendo del concurso humano. Esto activa una de las principales preocupaciones de las personas frente a estas tecnologas, el temor a perder su trabajo, algo que en s mismo no debera ser negativo pero que en una sociedad organizada econmicamente como la actual es un gran problema.

No obstante, la pregunta que cabra hacerse al respecto sera La IA es un problema tecnolgico, es un problema econmico y social, es un problema poltico, o es una mezcla de todos? De la respuesta a esta pregunta se derivaran diversos enfoques para afrontarlo.

Otro mbito, caracterstico de actuacin de la IA, es el que se refiere a la toma de decisiones, algo que representa uno de los atributos ms especficos e importantes del comportamiento humano, donde no solo interviene la racionalidad pura y dura, fcil de ser computerizada mediante un algoritmo, sino adems la intuicin y las emociones, las cuales, por lo menos actualmente, son ms problemticas reflejar en un algoritmo, aunque se estn dando pasos en ese sentido, tal como refiere el profesor Carlo Rovelli2

no slo los filsofos sino tambin los neurocientficos estn discutiendo ideas precisas sobre la forma matemtica de las estructuras que pueden corresponder a la sensacin subjetiva de la conciencia 

Por otro lado en esa toma de decisiones mediante IA, existe el riesgo de que el proceso devenga en soluciones no deseadas y difciles de detectar y contrarrestar hasta que el dao se ha producido, lo cual implica sistemas muy inestables y de alto riesgo. En la crisis econmica de 2008, que tanto dolor y sufrimiento trajo a millones de personas en el mundo, decisiones tomadas por un cierto tipo de algoritmos contribuy a crear una fuerte inestabilidad en el sistema financiero internacional que devino en pnico financiero y en todo lo que ocurri despus, tal como seala Cathy ONeil3 en su explicacin sobre el papel de los algoritmos en el desastre financiero de 2008.

paradjicamente, los supuestamente potentes algoritmos que crearon el mercado, los que analizaban el riesgo en tramos de deudas y los distribuan en ttulos, resultaron intiles cuando lleg el momento de poner orden en el desastre y calcular lo que realmente valan todos esos papeles. Las matemticas podan multiplicar la basura, pero eran incapaces de descifrarla. Eso era algo que solo podan hacer los seres humanos.

Lo que cuestiona la supuesta infalibilidad de la IA para evitar daos graves y la actuacin del humano en todo el proceso, tanto para generar el dao como para resolverlo despus, de lo que se deduce que la responsabilidad es fundamentalmente humana. El problema aqu, no es tanto que una mquina pueda actuar de forma irresponsable y autnoma totalmente, sino la opacidad y el alto grado de irresponsabilidad social con la que sus algoritmos han sido desarrollados.

Una opacidad amparada en la confidencialidad, que no es otra cosa que pura y dura guerra comercial, donde la tendencia no es disear sistemas ms eficientes social y econmicamente para la mayora, sino servir a intereses de importantes capitales financieros, sostenida esa opacidad en leyes ad hoc convirtiendo a estos algoritmos en autnticas cajas negras, impidiendo as un control con auditoras pblicas sobre ellos.

En un sentido parecido y que afecta tambin a la toma de decisiones, otro riesgo no desdeable es el que se refiere a la prdida de habilidades del humano en determinadas profesiones que cada vez estn ms en manos de robots, complacencia automatizada la denomina N. Caar. Al parecer y segn explica N. Caar4 el 4 de enero de 2013, la Administracin Federal de Aviacin de Estados Unidos emita un comunicado instando a las compaas areas norteamericanas a que incentivaran las operaciones de vuelo manuales. Las investigaciones sobre accidentes e incidentes en vuelo, indicaban que los pilotos se haban vuelto demasiado dependientes de la navegacin automtica.

En la medida en que la IA se convierta en una poderosa herramienta en la guerra comercial global, la tendencia ser a actuar en sistemas no abiertos generando un elemento claro de discriminacin entre pases, profundizando an ms, las desigualdades que actualmente existen en materia cientfica y tecnolgica basadas en un marco legal internacional asimtrico (TTIP o CETA) que prima los intereses de las grandes firmas tecnolgicas en detrimento de los derechos de las personas y los pueblos.

La IA en la medida en que posibilita la interrelacin entre una gran amplitud de bases de datos, es una herramienta que podra influir de manera sesgada, sobre determinadas decisiones polticas, condicionando la opinin pblica de forma poco equilibrada sobre las diferentes opciones que se manejen. Asimismo, se convierte en una herramienta demoscpica poco transparente, que podra incluso suplir mecanismos democrticos de participacin como son las elecciones, o las deliberaciones sobre asuntos vitales.

Otro uso de la IA es el referido al campo militar que adems es donde ms se avanza y menos transparencia existe sobre sus investigaciones y desarrollos, totalmente desbocados bajo el principio de que todo lo que pueda hacerse tecnolgicamente, hgase y a ser posible antes que los dems, sin reparar en medios y daos a la humanidad. Sus productos tecno-armamentsticos estn basados en dos premisas desoladoras como son, crear el mximo dao y destruccin con el mnimo esfuerzo posible y evitar, adems, cualquier tipo de empata con las vctimas. El caso de los drones como mquinas de matar, es el paradigma de esa forma de actuacin.

Por otra parte es poco real, como se pretende, el asignar a la IA un funcionamiento libre de prejuicios, neutral y totalmente racional, teniendo en cuenta que en la creacin de algoritmos, de forma ms o menos consciente, el que los disea est volcando en ellos sus propios prejuicios e ideologa, Cathy ONeil5 pone el ejemplo de cmo, empresas de colocacin de EE.UU. en una masiva y seguramente ilegal recogida de datos que llevan a cabo para crear perfiles profesionales de los demandantes de trabajo, uno de los factores que ms penalizan en esa bsqueda es la de su calificacin crediticia, creando, primero, una clara ineficacia que no indica la idoneidad profesional del sujeto para el puesto al que opta y en segundo lugar, creando un bucle perverso, pues cuantas menos posibilidades tenga de trabajar su liquidez ser menor y probablemente su morosidad tender a aumentar, disminuyendo cada vez ms sus posibilidades de encontrar trabajo. En definitiva, tiende a reproducir o a enquistar las diferencias sociales y econmicas del sistema, potenciando adems, un discutible perfil personal de idoneidad a un determinado estndar social. El paradigma distpico por excelencia.

Para terminar

No parece razonable rechazar los avances cientficos, sera una locura, inviable y absurda por otro lado. La historia de la especie humana tiene explicacin tambin en el marco del saber cientfico que adems, ha posibilitado importantes avances y mejoras en la forma de vida humana. No obstante, el enfoque crtico sobre la actividad cientfica exige un anlisis no solo epistemolgico, sino axiolgico por su enorme poder de cambio en la sociedad, en definitiva, es necesario interesarse no solo por las teoras cientficas sino por el hecho cientfico como un acto poderoso de cambio.

No plantearse ese enfoque crtico y holstico alimenta una creencia muy extendida que sostiene, que en s mismo el hecho cientfico es neutral desde el punto de vista axiolgico, pensamiento que asla de la prctica poltica y social la actividad cientfica en un claro ejercicio acientfico, estableciendo una radical separacin entre ciencia (teora/buena) y tecnologa (prctica/mala) algo que en la actualidad resulta complicado sostener y que deviene en una peligrosa verdad a medias, aun aceptando que cuanto ms prximo se encuentre el proyecto en sus inicios, o sea en la fase de investigacin bsica, se aproxima ms a esa bsqueda de la verdad gozando de una mayor autonoma y neutralidad.

El hecho cientfico es complejo y controvertido en s mismo, desde el momento inicial donde se decide financiar el proyecto A y no el B, hasta el uso que socialmente se hace del producto final, pasando por el proceso de creacin de conocimiento que se genera, tanto en la comunidad cientfica como en el resto de la sociedad. Un ejemplo, no especialmente positivo de esto, lo da constantemente la industria farmacutica reteniendo vas de investigacin y potenciando otras con el principal fin de alimentar su cuenta de resultados. Un reciente informe de Goldman Sachs6 resulta demoledor al respecto.

Existe toda una cadena de valor en el hecho cientfico, impregnada de intereses en conflicto, el quid de la cuestin no es negar esos conflictos de intereses, como algunos hacen cuando hablan del hecho cientfico de una manera neutral y beatfica, sino que esos intereses y conflictos se resuelvan a favor de la humanidad en su conjunto y no al de una minora. Para que esto ocurra es necesario un empoderamiento de la sociedad, como forma de contrarrestar la democracia pasiva en la que se estn convirtiendo nuestras sociedades, donde el ciudadano ha sido sustituido por el cliente y donde, aspectos que influyen poderosamente en nuestras vidas quedan fuera del mbito democrtico. El cientfico es uno de los ms importantes que se ubica extramuros de la democracia. Un comentario muy pertinente al respecto de la importancia de implicarse en esta lucha democrtica, referida expresamente a la IA, es el que hace Cathy ONeil7 cuando sostiene que:

si nos retiramos y tratamos los modelos matemticos como si fueran una fuerza neutra e inevitable, como la meteorologa o las mareas, estaremos renunciando a nuestra responsabilidad

Afrontar responsablemente el desarrollo y el reto que supone la IA para nuestras formas de vida, ha de hacerse en un contexto que rechace el planteamiento de que la ciencia y la tecnologa son el sujeto histrico del progreso de la humanidad, relegando al ser humano a la categora de eslabn de un sistema productivo de mxima eficiencia. Un discurso, este, pertrechado de un bagaje matemtico y de ingeniera de sistemas potente pero incapaz de ofrecer una visin tica y cualitativa de progreso y desarrollo del ser humano que atienda y cuide aspectos relacionados con su bienestar y felicidad y no tanto con su capacidad de producir y consumir objetos. La complejidad que rige en las relaciones humanas es difcil de resumir en un algoritmo, tal como seala Cathy ONeil8

todo modelo es por su naturaleza una simplificacin de la realidad, de ah su imperfeccin. Ningn modelo, por lo menos hasta ahora, puede incluir toda la complejidad del mundo ni los matices de la comunicacin humana

Otro aspecto importante que contribuira a un avance ms humano en las relaciones de la ciencia con la sociedad, viene referido al de la formacin de los futuros cientficos, incorporando a su currculo una formacin tica y de responsabilidad social, que les haga ser conscientes de que su principal responsabilidad, a pesar de su creciente proletarizacin, no es con la firma concreta para la que trabajan sino con la sociedad en general, evaluando en su trabajo los posibles impactos sociales o ecolgicos en los que pueda incurrir el proyecto que en cada momento tengan entre manos, poniendo en valor las rentabilidades sociales y econmicas de la mayora frente a intereses espurios de minoras por muy poderosas que estas sean.

Asimismo, potenciar cada vez con ms rigor el trabajo multidisciplinar en los proyectos cientficos en general y en los de IA en particular, dada la gran fragmentacin en que ha devenido el conocimiento, principalmente entre las ciencias de la naturaleza y las sociales. Tal como expone Max Tegmark9 fsico del MIT, director del Future Life Institute y experto en IA, cuando dice, casi a modo de exigencia, que:

la inteligencia artificial no puede estar solo en manos de gente como yo

De cualquier forma si algo caracteriza una reflexin sobre la IA es la de la incertidumbre, no tanto por los productos concretos que surgirn, sino sobre todo por el poder de cambio que ejercer en la vida del humano y que justifica ese talante de responsabilidad crtica que debe guiar su desarrollo para que sea algo al servicio de la humanidad



NOTAS:



1 Javier Sampedro. CLAVES N. 257 Pg.:14

2 SIETE BREVES LECCIONES DE FSICA Pg. 84. ANAGRAMA Coleccin Argumentos.

3 ARMAS DE DESTRUCCIN MATEMTICA Pg. 57 Editorial Capitn Swing

5 ARMAS DE DESTRUCCIN MATEMTICA Pg. 16 Editorial Capitn Swing

7 ARMAS DE DESTRUCCIN MATEMTICA Pg. 269 Editorial Capitn Swing

8 Ibd. Pg. 30

Rebelin ha publicado este artculo con el permiso del autor mediante una licencia de Creative Commons, respetando su libertad para publicarlo en otras fuentes.



Envía esta noticia
Compartir esta noticia: delicious  digg  meneame twitter