Idioma: Español
Fecha: Subida: 2023-12-19T00:00:00+01:00
Duración: 2h 24m 16s
Lugar: Murcia - Facultad de Derecho - Salón de Grados
Lugar: Mesa redonda
Visitas: 523 visitas

Mesa 1: Preparación y adjudicación

Descripción

• Safwan Nasri. CEO Pixelware
• Esther García Losilla. Secretaria General Técnica de la Agencia de Transformación Digital. Comunidad Autónoma de la Región de Murcia
• Jorge Martínez Fernández. Jefe de Servicio de Racionalización de la Contratación y Secretario de la Junta Consultiva de Contratación Administrativa de la Comunidad Autónoma de Castilla y León

Modera: Alfonso Sánchez García. Profesor de Derecho Administrativo. Universidad de Murcia

Transcripción (generada automáticamente)

Muy buenos días. Vamos a dar comienzo a este tercer seminario, del proyecto digital PIA con el título, la licitación y ejecución de los contratos públicos, el impacto de la inteligencia artificial, nada menos, vais a permitir que proyecte una diapositiva muy sencilla conocéis no la curva de grandeur que viene a hay evidencia cuáles son las tecnologías más en boga y el momento en que se encuentran en la edición de este año la inteligencia artificial, generativa está en el pico de las expectativas, estas está de moda el tema, está de moda, el tema y está de moda también. Su regulación. Recientemente, hace tan solo unas semanas, par de semanas, se ha llegado a un acuerdo a nivel político, entre los distintos colegisladores de la Unión Europea para aprobar un reglamento y en ese sentido pues también la expectativa que se ha generado con este seminario, que ya ha sido tremenda de más de doscientas inscripciones, la mayoría ya los que no están en Murcia evidentemente lo más hay por Internet en directo, luego las ponencia para ser gravadas. Pero vamos a a desinflar las expectativas. Aquí no vamos a resolver grandes problemas. Algunos me decíais al entrar, venimos a aprender aquí ni venimos todos a enseñarnos mutuamente. Este es un seminario que tiene como objetivo principal o lo hará mi compañero Agustí Cerrillo. El objetivo principal del seminario es conocer cuáles son los problemas, retos y desafíos que desde la práctica supone el uso de esa tecnología. La idea cuando organizamos el evento, es precisamente intentar reflexionar sobre la realidad, que es lo que está pasando, y cuál es el impacto real que a medio plazo, a corto plazo puede tener esta tecnología, con qué finalidad Pues, sobre todo, que nos ayudéis a orientar nuestro trabajo se acabe ni va a ser el seno del proyecto investigación que luego explicará a usted. Me gustaría en este primer momento la intervención. Dar las gracias a todos los ponentes que han venido de fuera de Murcia. Ha podido comprobar que aunque tengamos sigue siendo difícil ya hasta Murcia en algún caso, verdad? Aunque aunque parezca mentira, gracias por vuestro tiempo, para haber dejado otras dedicaciones personales, familiares y por estar aquí y también a los moderadores, a mi compañero Alfonso Sánchez y a Javier mirando también profesor de Derecho y mucha diversidad Castilla -La Mancha, quiero informar a los que tenemos la suerte también de tener no solo ponente, muy cualificados, grandes conocedores de la realidad diaria en el mundo de la contratación administrativa, sino que también nuestros moderadores son 2 referentes a nivel doctrinal en relación con el uso de medios electrónicos y la interinidad artificial. La contratación pública, no en vano, los 2 comparten el hecho de haber sido reconocidos con el Premio Internacional de Investigación del instituto Clavero Arévalo de la Universidad de Sevilla, en el caso de Alfonso el año pasado con su libro. La transformación electrónica de la contratación pública, de la digitalización a la automatización y en el caso de Javier, mirar solo hace tan solo unos días. Se hizo público el premio segunda edición por su libro, Inteligencia, Artificial y Derecho Administrativo, donde prestan especial atención precisamente a la contratación pública, de manera que ellos se encargarán de moderar los debates, y no se limitaran por tanto a hacer una función estrictamente de moderación, sino que también van a incitar e incentivar el diálogo con preguntas que seguramente serán muy afinadas. En ese sentido, les agradezco su disponibilidad para participar y obvio y culpa al ponente, porque les he dado instrucciones muy tajante de que en los 20 minutos tienen que cortar, porque la idea es que tengamos tiempo suficiente para el debate el debate posterior. La discusión, que eso es lo que yo creo que puede dar sentido a este tipo de. No hay más. Si habéis hecho el esfuerzo de mi presencialmente, solo me queda finalmente por agradecer a usted, al grupo solo global, la, el apoyo a nivel de patrocinio de este evento y al resto de entidades organizadoras, especialmente a Luis Álvarez por vuestra disponibilidad para colaborar en esta actividad y sin más, le cedo la palabra a mi compañero Agustí Cerrillo, catedrático de Derecho Administrativo. De la mesa Berta que atañe al agua, que es quien dirige el proyecto investigación, junto con la profesora Clara Velasco, que no he podido venir por razones personales, familiares y sin más, Agustín? Cuando quieras tiene la palabra. Gracias, Julián por la presentación y sobre todo, gracias a Alfonso por la acogida la organización de este tercer seminario, bien sea un tercer seminario, de una serie de 6 seminarios que tenemos previstos en el marco del proyecto de transformación digital de las administraciones públicas, inteligencia artificial. Este es un proyecto que se impulsó por un conjunto de profesores que formábamos la red, derecho administrativo e inteligencia artificial, que desde hace un tiempo, pues estamos preocupados y ocupados en el análisis del impacto que está teniendo y que ha de tener la inteligencia artificial las administraciones públicas y como todo este impacto ha de ser abordado por el derecho administrativo. Por ello, precisamente el proyecto se se lleva a cabo alrededor de la organización de diferentes seminarios que nos han de permitir identificar los retos, los problemas y las oportunidades que el uso de inteligencia artificial puede suponer en la Administración pública y para poder identificar estos retos. Desde el primer momento pensamos que lo más oportuno no era solo hacer una reflexión desde el ámbito académico sobre el impacto de la inteligencia artificial, Administración pública, sino que era necesario poder interaccionar poder dialogar con el responsable. Sin personal, servicios e instalaciones públicas, que son obsoletas, los que conocéis el día a día del funcionamiento y Administración pública, ya podéis identificar detectar los problemas, que está rayando la inteligencia artificial o simplemente compartir nuestras preocupaciones sobre qué puede pasar cuando la inteligencia artificial se vaya extendiendo las finanzas públicas y también nos parecía que era oportuno que en este diálogo participasen también las empresas no quieren, están promoviendo el uso de inteligencia artificial que están desarrollando la investigación en estos, nuestros ámbitos y, por tanto, el que también nos pudiesen ilustrar sobre hacia dónde vamos, no para poder. También anticipar estos problemas que se vayan fruto de esta, de estos diferentes seminarios, la idea es que podamos acabar haciendo una propuesta al ministerio que nos financia el proyecto, una propuesta normativa de cómo se debería abordar la regulación del uso, la inteligencia artificial en nuestras instituciones públicas. Una propuesta que, lógicamente, a día de hoy debe contextualizar ser marco, digamos, de regulación que se acaba de aprobar informalmente a nivel europeo y que marcará el desarrollo de la inteligencia artificial en los próximos años. Pero no podemos desconocer que más allá digamos de este marco genérico que nos hemos dotado, nos estamos dotando a nivel europeo, será necesario también aterrizar en las necesidades de las especificidades y las problemáticas de la cultura de cada Administración pública. Por ello creemos que el proyecto digital, más allá de hacer esta adaptación, puede ser útil como guía para las actuaciones públicas en este proceso de incorporación de la inteligencia artificial en su funcionamiento en los servicios públicos y la toma de decisiones. Bien, nada más. Por mi parte creía que era importante contextualizar este seminario del marco del proyecto, porque creo que es importante también dar valor al dicho de que hoy estemos aquí personas con perfiles diferentes que podamos aportar nuestras decisiones sobre el impacto de la inteligencia artificial. Hoy en la contratación pública, también celebrar el derecho de que además de las personas que hoy estáis aquí pues haya muchas otras que nos estén siguiendo a través de las de Internet, y finalmente comentados que este proyecto sigue en marcha y seguirá en marcha durante los próximos meses y que podéis tener noticia de nuestra actividad a través de las redes sociales. Os invito, si no lo habéis hecho ya, a que visiten nuestro perfil, el Linkedin y en Twitter, donde vamos publicando periódicamente información, y también que os dais de alta en el newsletter del proyecto, donde podría ir recibiendo información no solo sobre las actividades que desarrollamos, sino también sobre informaciones que pueden ser, observamos que pueden ser interesantes para aquellas personas que desde las estaciones públicas están planteándose, cuál puede ser y cuál será el impacto de la inteligencia artificial. Bien, pues simplemente agradeceros vuestra asistencia y seguimiento. Bueno, pues insistir en la idea de la configuración de este seminario. Como ha dicho usted, un perfil variado profesional de la Administración, de la empresa, del mundo académico. Creemos que es necesario llevar a cabo este tipo de debates y en segundo lugar, haber visto que con una cierta ortodoxia hemos distribuido el programa en 2 mesas. Una, para la parte más crítica de la licitación, adjudicación y otra de dedicada a la parte de la ejecución contractual y en su caso el control, porque pensamos que este esta ordenación del debate puede dar mucho más de sí a la hora de identificar las posibilidades. Los riesgo jurídico no, que supone la aplicación de estas tecnologías disruptivas en un ámbito tan delicado como la contratación pública. Pues vamos a dar paso, por tanto, ya la primera mesa, subiendo. Hola, buenos días a todos bueno, pues vamos a continuar la jornada de hoy, vamos a empezar con esta primera mesa que está dedicada a esa fase de preparación, selección, adjudicación y para, para esta, digamos, para abordar esta cuestión del uso de las tecnologías en el procedimiento de contratación. En estas 3 fases muchísimas gracias por por estar con nosotros, corrigieran. Aguán Ester, muchísimas gracias. La verdad que es un placer que haya venido a acompañarnos. Hablar de un tema en el que realmente se ha demostrado, se ha puesto de manifiesto que la tecnología sí que ha producido un cambio real en nuestra vida diaria, en nuestra dinámica habitual de los poderes adjudicadores, es decir, de las administraciones públicas. Si vamos al portal de transparencia de la Región de Murcia, tiene verdad que nos ofrece una información muy sistematizada y nos ilustra muy bien de la dinámica. Podemos ver cómo en el ejercicio 2016, antes de la entrada en vigor de nuestra ley actual, teníamos que el 55 por 100 de los contratos eran con publicidad; el restante eran contratos sin publicidad, con la puesta en marcha de la de la Ley de contratos y sus efectos nos encontramos que en el ejercicio 2022, en el último que tenemos completamente finalizado, veremos las cifras enseguida de 2023 el 73 por 100 pasó a ser procedimientos con publicidad. Tenemos ahí un 20 por 100 de incremento de 20 puntos porcentuales de incremento en este aspecto, y si pusiéramos a escarbar en buena medida, ellos ha debido al uso de las tecnologías. Sin embargo, más allá de esta este primer titular, este primer efecto, pues nos hemos encontrado con que no esto es tan fácil, sino que ese cambio de la Administración en papel a la licitación electrónica, pues ha supuesto una serie de retos, tanto desde el punto de vista del operador económico como desde el punto de vista de la Administración, y en ese sentido vamos a abordar la con esta mesa a ver cómo podemos. Pues a Maestrat el uso de esta tecnología para que efectivamente nos ayude a que este cambio pueda optimizar, ser y aprovechar en la medida de lo posible, las ventajas que nos ofrece y reducir esos posibles efectos que también podemos achacar a la tecnología, no decir bueno, pues antes esto lo preferirían papel vamos a abordar esa cuestión desde el punto de vista de cómo nos puede ayudar la automatización, determinista también la no determinista la inteligencia artificial, y para ello en primer lugar vamos a tener la presentación de las aguas la RIC el es feo, de salvaré, una compañía especializada en la contratación, licitación pública electrónica, con una de las plataformas más extendidas del sector público español, y que dan servicio a miles de usuarios y poderes adjudicadores. Cuenta con una larga trayectoria en el sector tecnológico español y europeo, y ha cursado sus estudios en la Universidad Politécnica de Madrid es el secretario general de plan, la Asociación Europea de Plataformas de Madrid y miembro de los grupos de trabajo sobre esta misma materia de agua. Muchísimas gracias por estar con nosotros y adelante. Para nada. Buenos días, muchas gracias por la asistencia, estar aquí hoy en este evento tan de actualidad oportuno. Muchas gracias también por la invitación y la iniciativa por parte de la universidad, especialmente el profesor Julián, que siempre está en la puntera y estáis siempre persiguiendo localizar los temas más de la actualidad e instar, y tanto el paso para poder reflexionar y dar una vuelta realmente lo que lo que viene. Estamos hablando esta mañana y recordábamos que la última vez y yo había estado aquí en esta sala, ha sido el año 2017 hablando de los temas de la licitación electrónica, de la interoperabilidad y, bueno, pues ha pasado mucho tiempo desde entonces, en aquel momento el tema era de tremenda actualidad. Ya llegó un momento que. Llega un momento en el que ahora mejor, el que ya no no era tan novedoso y ya se ha ido normalizando la tecnología y, bueno, estamos ahora ante otro otro otro momento bastante clave en el que parece que vamos a estar hablando mucho de lo que viene a continuación. Como me había introducido al 11. En cuanto a mi compañía, nuestras aguas, una de las plataformas de licitación y de contratación electrónica mejor implantadas en el sector público, concretamente aquí en la Región de Murcia, contamos con una de nuestras referencias a la bandera, nuestras preferencias, además bastante innovadoras en su momento y ya está hasta ahora que esa implantación en el Servicio Murciano de Salud, una implantación que fue muy pionera en su momento allá en el año 2013 prácticamente 2014, a la sombra de la directiva europea en contratación pública y desde entonces yo creo que hemos andado mucho en este proyecto. El Servicio Murciano de Salud ha sido 1 de los organismos pioneros y 1 de los organismos más activos en su proyecto y es una historia de éxito muy reconocida en todo el sector público. Así que nos encontramos aquí con muy a gusto, hablando de las siguientes fases y lo los nuevos pronósticos en cuanto a la efectiva. Bien, en cuanto a mi intervención, yo voy a entrar. Voy a estar repasando realmente desde el punto de vista práctico, dónde podemos intervenir. En cuanto a inteligencia artificial, en la licitación pública, especialmente en las fases que nos ha marcado la mesa, que son las fases de la licitación y a la ubicación, dejando las la ejecución para la parada, para la otra mesa, que va a ir a continuación. Bien. Me gustaría arrancar con con con esta pregunta bastante reflexiva, puesto que nos encontramos en un momento bastante clave en cuanto a evolución tecnológica se refiere. La inteligencia artificial ha entrado en el día a día de nuestra actividad, tanto personal como profesional. Creo que esta pregunta que nos podemos hacer respecto a podrá la inteligencia artificial ocuparse de íntegramente de la licitación pública de toda la historia. Es una pregunta que nos hacemos y nos viene a la mente. Posiblemente, a cualquiera que vayamos a venir a un evento de este tipo y es una reflexión; sería posible, imaginarse la inteligencia artificial, ocupándose de todo el proceso, íntegramente desde el inicio de la necesidad pasando por la evaluación valoración y la ubicación bueno pues es una pregunta conviene hacerse conviene preguntarse es radical es preocupante sin sin lugar a duda, pero creo que no es el enfoque adecuado, por lo menos en este momento y con lo que tenemos, sino, más bien, el enfoque es el de la inteligencia artificial, como un asistente, como un asistente inteligente, un copiloto, como nos han ido marcando muchas herramientas, empezamos a ver ya, como formando parte de la de la realidad del día a día. También. Nuestro trabajo es un asistente que nos va a poder guiar en cada 1 de los pasos del proceso. Posiblemente, pero es un copiloto, se va a comportar como en un bueno largo, donde realmente nos puede descargar. De la excesiva carga de trabajo donde nos puede aportar información crítica donde nos puede ayudar a tomar las decisiones, pero las tenemos que seguir tomando nosotros es absolutamente fundamental. Así que la la tecnología aunque sigue siendo muy novedosa, pero también lo cierto es que sorprendentemente poderosa y evoluciona con con con una rapidez enorme, no tiene visos de sustituir ni el juicio humano ni la lógica ni la empatía en cierta forma, que también es necesaria en una actividad como la contratación pública, donde se manejan recursos públicos y donde se toman decisiones, que son decisiones que tienen un impacto social, así que en cierta forma lo que si vamos a intentar es hacer un pequeño ejercicio para poder detectar y valorar dónde podemos incidir en la licitación pública y en esa actividad de ir pasando los fases hasta la la adjudicación, utilizando ese ciclo y para hacer ese ejercicio, evidentemente es muy importante que podamos detectar y entender cuáles son sus bases y sus fundamentos si no somos capaces de entender sus bases y sus fundamentos y también distinguirla de otras tecnologías de la industria informática, o simplemente estemos en una importante con confusión. Por lo tanto, entender conceptos como el aprendizaje automático es la capacidad de la máquina de ir aprendiendo a sus experiencias para mejorar su rendimiento, y este es un concepto clave, el mejorar su rendimiento, es decir, que las la inteligencia artificial tiene unas urnas o clave, una ventana es aprender y evolucionar y mejorar, con lo cual hay un cambio ahí importante, continuo que detectamos, y de ahí también vienen todos los riesgos, 2 sesgos, el reconocimiento de patrones, etcétera, por los fundamentos básicos de la inteligencia artificial, que desde luego no son objetos de esa de esa ese seminario oído de esta charla, pero desde luego es un ejercicio bastante necesario, pero para hacerlo y ser poco más prácticos en este sentido quizás sí sería más fácil ir a detectar o a enumerar cuáles son las competencias o los ámbitos donde la inteligencia artificial, si no alta, un alto desempeño, y fundamentalmente son 3 áreas, son 3 áreas que realmente nos sirven no solo para entender la, donde puede ser la inteligencia artificial, un aliado en la licitación pública, sino prácticamente en cualquier área de trabajo administrativo. Análisis de datos donde la inteligencia artificial es capaz de analizar grandes cantidades de datos y de obtener tendencias y rasgos que el ser humano es incapaz de detectar en muchas ocasiones la predicción prácticamente similar, la capacidad de reconocer patrones y hacer predicciones basados en estos grandes modelos de datos, y la automatización, donde la inteligencia artificial es capaz de aprender, tareas muy complejas y repetirlas y ejecutarlas de una manera bastante viable y relativamente libre. Sí analizamos estos 3 ámbitos de la inteligencia artificial y intentamos buscar realmente aplicaciones, o simplemente podamos llegar a un ahorro, resultados relativamente prácticos, así que por ahí punto por punto ámbito cobrar por ámbito intentando detectar o mostrar dónde podemos incidir en cuanto a licitación pública se refiere bien. En cuanto al análisis de datos, en realidad la inteligencia artificial nos va a poder ayudar en todo lo que sea la tarea de las asiste, de la asistencia administrativa, asistencia administrativa, asistencia jurídica que les va a permitir tomar decisiones mejor fundadas, una asistencia más inteligente en cada momento y responder con mayores garantías, es decir, herramientas que empezamos a ver parecidas a las que ya hemos visto, de que se han ido popularizando, los chats, que son capaces de responder con una eficacia enorme, iremos viendo cada vez más herramientas que van a ir tramitándose más y poca dictándose hacia la tarea. Era vial la contratación administrativa de la valoración jurídica, y que van a ser herramienta diaria para los órganos de contratación por otro. Otro área donde vamos a poder utilizar la, el análisis de datos va a ser en cuanto a contenidos, a optimizar ese tipo de contenidos, a mejorar los pliegos, mejorar los informes, hacerlos más fáciles de leer, de más fáciles de interpretar, corregir, posiblemente determinados sesgos. Nos van a permitir mejorar también en este sentido y permitir la participación de mayor, el mayor número de operadores económicos y en la optimización de los procesos. Cuando tenemos definidos nuestros procesos tenemos la capacidad, utilizando la tecnología de optimizarlos y simplificarlos. En cuanto a la proyección, la inteligencia artificial no va a permitir poder prever la concurrencia que vamos a tener en determinados expedientes, en determinadas licitaciones, la incluso la determinación de las posibles participantes en cada 1 de los procesos que vamos a sacar, y también casi el porcentaje de éxito de estos posibles participantes, y esto ya es un tema casi jurídico para la reflexión, pero desde luego técnicamente la herramienta nos lo facilita y esto es perfectamente viable. En cuanto a los ahorros o a los descuentos previsto perfectamente, basándonos en experiencias pasadas y en un análisis de los datos que están. Además, la mayoría ya son públicos en la planificación y la estimación, basándonos en las experiencias pasadas, somos capaces de hacer una planificación y una estimación; es posible ahora mismo con la tecnología dual, pero desde luego será bastante más certera utilizando estas tecnologías para poder pasarnos en todas esas experiencias pasadas, así que otro de los áreas donde realmente tenemos ahí un buenos resultados y, como decía antes, en cuanto a la automatización, toda clase de automatización. En cuanto a la redacción de documentación, plantillas formularios, informes a lo largo de todo el proceso. La recopilación de datos para la precalificación, la recopilación de datos para la calificación, incluso luego ida, es todo este. Todos estos mecanismos de automatización son bastante útiles y que, en definitiva, van a permitir descargar de una carga de trabajo importante a los órganos de contratación. Así que, bueno, pues básicamente es ese resumen en cuanto a aplicaciones prácticas que podamos detectar Cómo Cómo, como ejemplo, como esto habrá, iremos viendo muchas, que irán surgiendo y que van surgiendo a lo largo de los próximos meses y a lo largo de la evolución de la propia, una tecnología que sigue siendo relativamente madura y que las herramientas también son todavía bastante áridas, o bastante complejas, de aplicar, y de utilizar. Por lo tanto, ese recorrido no está libre de todavía. Retos y dificultades, y, bueno, quiero enumerar algunos textos, retos y y dificultades a la hora de ir poniendo en marcha ese tipo de iniciativas. Desde luego, 1 de los retos principales es la disponibilidad de datos. Evidentemente, para obtener buenos resultados en inteligencia artificial necesitamos cantidades ingentes de datos que deben ser analizados y debemos entrenar los sistemas con una cantidad importante también de datos, y esos datos a veces son disponibles y a veces no están disponibles. Por lo tanto, ese es 1 de los puntos principales a tener en cuenta. Desde luego la propia. La actividad es compleja desde el punto de vista legal, jurídico y también administrativo, y todo lo que hay alrededor y no siempre está disponible. Otro de los retos que tenemos delante es la propia legalidad de todo lo que se puede llegar a hacer. La tecnología nos puede permitir cuestiones que pueden tener dificultades a nivel legal o a nivel de equidad en este sentido, y de ahí viene todo lo que simplemente surja aquí hoy en el evento, en cuanto a realmente iniciativas necesarias en cuanto a legislación en la materia, el tema de la confidencialidad de la información, otro punto muy importante y que tiene una complejidad técnica enorme en este área. Además, en concreto, y el tema de los costes, los costes no son triviales, es un artículo y ahora es un artículo y que requiere grandes recursos y que también en este sentido supone un una barrera a tener en consideración y bueno ya para finalizar básicamente algunas recomendaciones que son prácticamente aplicables a cualquier nueva tecnología que hay ahí e ir poniendo marcha o que ahí hay que implantar, siendo novedosa cooperar con expertos, que conozcan realmente la tecnología y que conozcan la contratación pública arrancar en pequeño e ir creciendo y escalando en grande a medida que vamos aprendiendo, y vamos entendiendo la tecnología, involucrar a los usuarios, nada nuevo en que no sea de cualquier otro proyecto de tecnologías de la información, donde realmente, sino a los involucramos desde el principio podemos construir cosas que no sean útiles y la palabra útil es siempre vital, aquí en cualquier otro tipo de proyecto tecnológico y desde luego, en evaluar constantemente aquí quizás más que en otras áreas, porque la transformación y en cambio es aquí también bastante continuo. Por lo tanto, os vigilancia y entendimiento de todo, como lo que evoluciona aquí y poco más, y la clave está en este equilibrio entre la tecnología y la calidad humana de la tecnología, no nos va a sustituir, no va a poder cubrir aspectos como el juicio humano, como la ética es absolutamente fundamental y también en esta actividad, pero sí es una herramienta que está a nuestro alcance y que debemos considerarla y tener la presente por iremos viendo la formando parte de nuestro día a día continuamente y nada más. Muchas gracias. Espero tener un debate rico, que podamos hablar y que podamos intercambiar ideas y que haya mucha reflexión hoy alrededor del tema. Muchas gracias a Juan oportuno, intervención y, bueno, vamos a continuar con la, con la siguiente intervención así hablamos, hacemos las 3 intervenciones y después de ellas, pues abrimos el turno de preguntas en conjunto para los 3, para que puedan intervenir de manera cruzada. Bueno, pues nuestra siguiente ponente es Esther García silla. Ella es actualmente directora de la unidad de coordinación de la Dirección General de Transformación Digital de la Comunidad Autónoma de la Región de Murcia, puesto que ha ocupado, tras su anterior desempeño, también en la comunidad autónoma como como jefa de servicio jurídico de la Consejería de Presidencia, turismo, cultura, deportes y portavocía. Tiene una larga trayectoria en la comunidad autónoma desempeñando funciones de responsabilidad directamente vinculados con la para el desempeño? La elaboración de un procedimiento de contratación pública también han tenido alguna vinculación con esta casa, con esta facultad desempeñando labores, como profesora asociada en nuestra facultad de Derecho, y en cuanto a su formación, pues es licenciada en Derecho, con 2 máster. También de carácter jurídico por la Universidad de Murcia, Esther. Estamos encantados de que aquí con nosotros, en nuestra facultad y nada adelante y estamos encantados de conocer las iniciativas que está llevando a cabo nuestra comunidad autónoma en esta materia, Muchas gracias. Muchas gracias, Alfonso. En primer lugar, agradecer esta oportunidad de participar y de formar parte de este seminario, foro de debate en un tema de tan rabiosa actualidad, del que luego extraeremos conclusiones que nos van a servir a todos para para trabajar en nuestro día a día, así que muchas gracias, Julián por esta oportunidad y bueno, concretamente es que como sabemos, la inteligencia artificial ya forma parte de todas nuestras conversaciones en todos los cafés. Yo he escuchado hablar de inteligencia artificial, con lo cual estamos efectivamente de rabiosa actualidad, y además aplicada al sector público, concretamente a la licitación, a la contratación pública, porque me parece un tema absolutamente necesario, pues en el sector privado, además de a nuestro compañero, no se ha podido adelantar algo. El sector privado está muy avanzado en la materia, existen incluso, como hemos podido tener noticia recientemente, plataforma ya todo en 1 que trabajan directamente en la, en la, para las empresas estableciéndoles. Simplemente las empresas tienen que registrar, si el establecen todas las procedimiento, todas las licitaciones, todas las adjudicaciones que hay en el sector público para que las empresas puedan, pueden puedan participar y además la esta empresa les ofrece la oportunidad también de mejorar sus, su toma de decisiones sobre la inteligencia artificial. Sin embargo, vale. Sin embargo, en la Administración pública pues vamos un poquito por detrás y además al comentar esto en los café que hablábamos de la inteligencia artificial es la sensación entre los funcionarios públicos. Es un poco de apabulla, miento, como la inteligencia artificial. Todavía no tenemos claro por dónde comenzar. De hecho, que además nosotros en la Administración pública, porque no somos lo concreta en profundidad públicos, no solo no, no solemos estar muy abiertos a los cambios. Yo el primer cambio que viví a lo largo de mi trayectoria llevo 16 años tranvía expedientes administrativos fue con la firma electrónica ya con la firma electrónica. Llegamos a sus clarísimas como vamos a avanzar en los expedientes y si cometemos un error, cómo modificamos esto? Bueno, pues eso fue una revolución absoluta y, sin embargo, la experiencia práctica ya ya estamos trabajando con expedientes electrónicos y la práctica nos dice que hemos mejorado notablemente, tanto la agilidad en los expedientes como incluso la forma de tramitarlos, pues los méritos mucho más para no llegar a esos errores de lo que de lo que hablamos y si hay un expediente electrónico por excelencia, desde luego esa contratación pública, pues la Ley de Contratos del Sector Público, la Ley no a 2017 fue imperativa en esa obligatoriedad de la contratación electrónica. Por tanto, entiendo que la obligación de la inteligencia artificial, esta tecnología tan avanzada en la excedencia de contratación electrónica es, es el mejor ejemplo para parar para llevar, para llevarlo a cabo. Bueno, por eso nuestra inminente agencia de transformación digital, pero mucho trabajo por delante y para mí es un placer poder ligar los los retos y los objetivos a los que a los que a los que nos enfrentamos actualmente. En primer lugar, me gustaría partir de la base de la Ley de Contratos del Sector Público, pues el artículo 1 nos establece los principios por los que debe regir la contratación del sector público, porque me parece que precisamente la inteligencia artificial aplicada, aplicada a este procedimiento, nos va a garantizar estos principios. La inteligencia artificial nos va a ayudar en la libertad de acceso a las licitaciones públicas, también garantizar, como veremos más a continuación, a esta a lo largo de este debate, la publicidad, la transparencia, no discriminación y la igualdad de trato, y también nombrarse no paga poder garantizar y no va a ayudar y va a colaborar con nosotros en una eficiente utilización de los fondos públicos que perseguía tanto por la ley de nuestro sector público como por la Administración pública. En general también las app. Me gustaría analizar un poco por encima los aspectos clave de la Ley de Contratos del Sector Público, porque también entiendo que la inteligencia artificial nos va a ayudar y no va, no podamos apoyar en esta herramienta. Se tramitaba ser clave para garantizarlos, la simplificación y agilización, por supuesto, a través de los procedimientos automatizados. Inteligente. Vamos a simplificar expedientes y vamos a poder, vamos a poder tramitar los expedientes simplificando la burocracia, simplificando los trámites administrativos con un lenguaje más comprensivo y, por tanto, dando agilidad a la al procedimiento de licitación pública, también la transparencia, el acceso a la información pública, pues a través de los sistemas, los sistemas de los algoritmos que utilicemos de transparencia aplicando la transparencia en la normativa de transparencia y acceso a la información pública, a los sistemas operativos, garantizaremos que a lo largo de todo el procedimiento de contratación tengamos en cuenta esta normativa de transparencia y acceso a la información. La propia ley también promueve la innovación, con lo cual el uso de estas tecnologías novedosa en esta materia se hace, se hace desde luego más cómodo y más fácil a una Ley de Contratos del Sector Público que prevé el uso de estas tecnologías. La sostenibilidad también podemos incorporar estos criterios de la inteligencia artificial y finalmente la contratación electrónica que como ha dicho es una garantía de que la inteligencia artificial cual se aplican a los procedimientos de liquidación pública. Ya nuestro compañero se han adelantado las capacidades que tiene la inteligencia artificial. Con lo cual tampoco quiero repetirme, pero bueno, me parecen bien me parece importante señalarlas, porque van a ser la que vamos a aplicar a nuestros procedimientos. Como sabemos, la inteligencia artificial; y como ya se ha expuesto ofrece la capacidad de aprender de la experiencia; y esto es fundamental, aunque tiene un aprendizaje automático procesa el lenguaje natural, incluso visión computadora, y lleva a cabo razonamiento y toma de decisiones; a través de interpretando el contenido visual interpretando toda la información y sacado conclusiones propias para ayudarnos a tomar decisiones, como siempre. Como ya hemos apuntado, debemos supervisarlas del ser humano, porque esta decisión es bueno, como ahora veremos, los riesgos que pueda incurrir pueden dar lugar a alguna arbitrariedad, luego de acuerdo con todas estas, con todas estas tierras, estos beneficios y estas herramientas de inteligencia artificial en el expediente de contratación la podemos utilizar pues desde el principio del expediente. Por qué? Porque la ley, por una parte, la Ley de Contratos del Sector Público, de una parte nos establece la la, el uso de las tecnologías y facilita ese uso de las tecnologías y por otra parte, es un procedimiento administrativo especial, que es absolutamente reglado en cada 1 de sus pasos. De ahí que sea el expediente en el que el que más fácilmente podemos, podemos absorber la herramienta del interés de la inteligencia artificial y utilizarla desde el inicio del expediente que viene reglado para garantizar esa objetividad, esa legalidad y esa transparencia. La ley va regulando la preparación del contrato, la selección del contratista, la adjudicación incluso sus efectos, su cumplimiento y su extinción, luego la inteligencia artificial. Aquí tenemos gran capacidad de utilizarla tanto en la toma de decisiones para el primer informe de necesidad que lanza para que el órgano de contratación adopte el acuerdo de inicio. Ese informe de necesidad puede dar lugar a que automáticamente, a través de los procedimientos automatizados de inteligencia artificial, se produzca el acuerdo de inicio por el órgano de contratación y esta tramitación del expediente, en la que la ley regula incluso el contenido de los pliegos de prescripciones técnicas. El contenido de pliegos de cláusulas administrativas particulares se puede utilizar a través del análisis de los datos para tomar las mejores decisiones en la regulación de estos pliegos y, además, nos puede ayudar muchísimo también la inteligencia artificial, lo que matiza, especialmente en un tema que es, en mi opinión, de los más difíciles de abordar a la hora de determinados contratos complejos, que es la el análisis de cuál es el precio óptimo, pues, como sabemos muchas veces, si no, si el nuestro, si no establecemos en nuestro contrato un precio adecuado a los datos que tenemos en el mercado, podemos correr el riesgo de quedar desierto el contrato? Por una parte, porque nos excedamos, pero, por otra parte, no podemos correr el riesgo de tener ofertas que pueden ser temerarias y que no pueden dar los resultados que nos gustaría obtener. Por tanto, el análisis de datos a través de la inteligencia artificial, en mi opinión, desde luego no puede suponer que la Administración saque la oferta más ventajosa, tanto para el beneficio de nuestra acción como para evitar esas ofertas temerarias. Una vez que hemos expuesto un poco, pues esto beneficio como no puede ayudar en el procedimiento, pues me gustaría trasladaros nuestra experiencia. Desde la actual Dirección General de Transformación Digital, en el uso de la inteligencia artificial, ya tenemos determinadas pruebas de concepto realizadas y mostrar a compartirla con vosotros para que después podamos debatirlas. Por una parte, se ha llevado a cabo una prueba de concepto en el uso de la inteligencia artificial para la clasificación y la extracción de información de los documentos en este caso se ha llevado a cabo a través de, concretamente de certificados bancarios, utilizando la inteligencia artificial a través del procesamiento del procesamiento natural, del lenguaje. Se ha se han extraído información de todo certificado bancarios, sean clasificados, la inteligencia oficial o se ha clasificado. En el certificado bancarios en libretas de ahorro, en determinado tipo de documentos sea más, extraigo información de los mismos, como el DNI de las personas, el nombre, los apellidos, el de todos los datos que contenía para que no puede servir esto, pues, esta clasificación automática se puede extrapolar a todos los documentos que se presentan en la Administración pública, con lo cual puede ser de gran ayuda para esa agilidad y para esa eficiencia que perseguimos y que persigue la Ley de Contratos del Sector Público. Otra prueba de concepto también ha sido el uso inteligente de la inteligencia artificial, generativa como ayuda para el desarrollo de esa del software, en este caso para los programadores, para ayudarles a llevar a cabo los códigos, lo que lo que reduce muchísimo al margen de error humano. También se ha llevado a cabo el uso de la automatización inteligente para la automatización de procesos de negocio en la Administración regional. Este caso, en mi opinión, de los más interesantes se utiliza, se ha utilizado, combina tecnologías de automatización de procesos con inteligencia artificial, y aquí lo que se ha conseguido es que las tareas repetitivas que ante la realiza una persona en un ordenador, pues esa persona puede realizar otra tarea de mayor valor añadido, porque es precisamente esta inteligencia artificial en la que las llevan a cabo, como tenemos ejemplos prácticos, ya que se dan y que se están llevando a cabo, como por ejemplo en materia de recursos humanos, nosotros tenemos un procedimiento de declaración de compatibilidad, pero funcionario público cuando queremos, por ejemplo, pueden ser profesor asociado y además trabajan en la Administración, tenemos que solicitar la compatibilidad. Ese procedimiento ya se está llevando a cabo de manera automatizada. De qué manera? Pues a través de la inteligencia artificial se extrae de la solicitud genérica que presenta el funcionario se extrae la información del documento y se automatizan el procedimiento, dando lugar a la, a -elaborar una orden de compatibilidad o no de autorización o no de la compatibilidad, en función de que se cumplan los criterios que ya se le han marcado, que son lo que establece la ley. Esto, pues, perfectamente se puede extrapolar a las licitaciones públicas y, en mi opinión, desde luego, va a ser una descarga bárbara para la mesa de contratación Por qué Porque la documentación que presentan los licitadores suele ser muy farragosa, sobre todo cuando hay muchas muchas ofertas y la inteligencia artificial acredite estos crecimientos automatizados por estudiarla. Puede decirnos si cumplen o no los criterios de solvencia. Se cumplieron los criterios establecidos en los pliegos, si esas ofertas son adecuados o no? Por tanto, entiendo que va a ser una auténtica revolución cuando esto se pueda llevar a cabo definitivamente para los procesos de contratación, y la Mesa será mucho más ágiles nuestro procedimiento, pues reduciremos todos los plazos que lo que más nos preocupan todos a la hora de contratar. En la Administración pública, finalmente también se ha llevado a una prueba de concepto en el uso de la inteligencia artificial, conversacional generativa también de gran interés. En principio se está llevando a cabo para la, para la asistencia a los usuarios de las aplicaciones, pero esta prueba se quiere también trasladar a las relaciones de la Administración pública con los ciudadanos, de manera que, por ejemplo, en las licitaciones públicas pues las consultas que lleven a cabo los licitadores podrán ser respondidas sobre inteligencia artificial, generativa y conversacional, pues también otro otra manera de funcionar más ágilmente, responder mucho más rápidamente a los ciudadanos y de que estos empleados públicos que trabajan en estas áreas, pues puedan dedicarse a otras tareas más complejas y que no nos puede resolver la inteligencia artificial. Tras el análisis y tras esta exposición un poco de cómo, de cómo estamos funcionando en nuestra Administración, me gustaría hablar de los beneficios, pero también de los riesgos que esto conlleva, como ya hemos expuesto, desde luego, ofrece muchísimos beneficios. La inteligencia artificial nos va a agilizar los procedimientos, desde luego, para reducir los tiempos va a simplificar también va a suponer la transparencia. Pues como cómo acompañar a, como ha comentado nuestro compañero, la inteligencia artificial, si hay procedimientos que en todo caso tenemos que tener en cuenta que tienen que ser trazables, tienen que dejar trazabilidad, tenemos que saber los pasos que han seguido. Además, se utilizan programas de evaluación objetiva. Por tanto, se le dan criterios a la inteligencia artificial, objetivos para trabajar sobre la misma y de la misma manera. En todo caso, tenemos que poder auditar la, con lo cual, la precisión a la inteligencia artificial suelen ser más objetivos, más aparentes que las decisiones del ser humano. Esto me parece una ventaja, y esta agilidad y esta transparencia, además, va a permitir que se cumpla otro de los principios generales de la Ley de Contratos del Sector Público, que es la inclusión y la participación de la pequeña y mediana empresa en los procedimientos de licitación, pues al agilizar los procesos, las pymes tendrán más seguridad, tendrán más agilidad y simplificaremos para que ellos puedan concurrir en nuestros, en nuestros procedimientos de contratación, con lo cual, pues aparentemente 2 ventajas. Pero bueno, también me gustaría evaluar los riesgos que conlleva la inteligencia artificial, porque porque, bueno, como siempre, no es oro todo lo que reluce y podemos hablar también de algunos de los riesgos que lleva asociados, en primer lugar 1 de lo que me parece que corre más peligro es el de la discriminación. Por qué? Porque como funciona la inteligencia artificial, pues a través de algoritmos que pueden incluso amplificar los surcos y que pueden heredar, sesgos que supongan que adoptemos los que VOX ha utilizado para su entrenamiento suman que adoptemos decisiones discriminatorias. Todo esto es conveniente evaluarlo, porque porque tenemos que buscar una solución por donde pasa la solución, pues además de una evaluación y de una de auditar siempre los algoritmos que se utilizan para que sean transparentes, para que haya una, explicaba unidad. Desde luego, la supervisión del ser humano es fundamental. De ahí que nosotros tengamos que ir de aquí ya barro para casa, formar no mucho los funcionarios y los empleados públicos, porque debemos estar encima este procedimiento para que no lleguemos a estos casos de discriminación. Por otra parte, y otro de los riesgos que podemos correr al aplicar la inteligencia artificial en en la, en los procedimientos de licitación pública, es la falta de la falta de motivación, la falta de explica habilidad de las decisiones que tomamos, porque al hacerlo una máquina, pues podemos saltarnos sobre todo cuando son algoritmos muy complejos, tener la capacidad de explicar por qué se ha tomado esa decisión Cómo podemos solventar esto? Pues, desde luego, eligiendo siempre algoritmos que tengan esta trazabilidad de la que hemos hablado, que sean lo más transparentes y lo más objetivos posibles. Luego, de acuerdo con este estudio de los riesgos que tenemos, lo que me gustaría poner de manifiesto en este foro de esta mañana es que la inteligencia artificial es una herramienta que, que va a ser revolucionaria, que nos va a ayudar en todos los procedimientos pero que desde luego no podemos perder de vista que el ser humano tiene que intervenir, tiene que formar parte de estos procedimientos y, en lugar de reemplazarlo lo que tenemos es que darle herramientas para qué? Para que pueda aplicar esta inteligencia artificial e insisto, fundamental. La formación, en nuestro caso las administraciones públicas, la formación de los empleados públicos en esta materia, también para evitar los vertidos de los que hablábamos al principio, a estos cambios. Otro de los debates que me gustaría abrir para finalizar es y probablemente aquí muchos compañeros expertos en contratación que espero que también colaboren en ahora en el debate, y comenten esta cuestión si, como sabemos la Administración pública no, no, no puede elaborar por sí misma estos programas de inteligencia artificial para aplicarlos en los contratos. Necesitaremos siempre la colaboración de nuestro compañero del sector privado y, por tanto, lo contrataremos, pasaremos a contratar inteligencia artificial. Estos contratos de inteligencia artificial se trata de un servicio, se trata de un suministro, la Ley de Contratos del Sector Público, como sabemos casi, que es previa a esta inteligencia artificial. Por tanto, no resuelve esta cuestión. Tenemos el artículo 16, 3 b de nuestra Ley de Contratos, que define qué son los contratos de suministro y no distingue entre aquellos que son simple programa de ordenador, que sería el suministro y estableciendo la excepción de aquellos que se realizan a medida, que serían contratos de servicios. En este mismo sentido siempre se pronuncia también la Junta Consultiva de Contratación del Estado, en su informe 58, 2018, disponiendo en este sentido también que efectivamente, los contratos de suministro serán lo que los que sean simples programas de ordenador y aquellos que sea una medida serán contratos de servicios con una diferente conclusión, según sean servicios, suministros, pues, en el caso de que sean contratos de servicios tendremos que acudir al artículo 308 de la Ley de Contratos del Sector Público, que sucede, que en este caso el producto, es decir, la, la, la empresa que contrate con la Administración pública, tendrá que cedernos los derechos de propiedad intelectual. De acuerdo con este artículo 308, lo que probablemente me parece que puede plantear determinados problemas, porque a lo mejor para las empresas este no es un problema para contratar con Administración pública y puedan perder el interés en participar con nosotros sin concurrir a los a los contratos de la Administración pública. Con lo cual, vuelvo a vuelvo, a hablar de ese equilibrio que tenemos entre que tenemos que siempre plantear en la elaboración de nuestros contratos entre el equilibrio entre lo que queremos de trazabilidad, transparencia, la obtención de los del producto de, de los de los contratos, que llevemos a cabo y equilibrarlo con la situación del mercado, es decir, con el interés de las empresas en guardar sus secretos comerciales industriales, y no trasladarlos para garantizar una competencia, una libre competencia en el mercado. Por tanto, me parece fundamental que se modifiquen, por supuesto, y seguro que debatiremos en torno a esto la Ley de Contratos del Sector Público, para concretar esta materia tan específica, la contratación de la inteligencia artificial y garantizar el equilibrio. El equilibrio del que hablábamos pues se han publicado también recientemente en la Comisión de la Comisión Europea ha publicado unas cláusulas tipos para para los contratos de inteligencia artificial que, pero se centran más en los posibles riesgos de los contratos que en esta definición y en esta determinación del objeto final del contrato, por tanto, creo que está esta cuestión tampoco está resuelta, lo cual nos lanzó a debate porque me parece que también sería importante comentarlo aquí. Para finalizar, la verdad que más que llevar a cabo, conclusiones a las que no me atrevo porque esta materia está tan inexplorada que no me ha tocado concluir en nada, sino más bien lanzar algunas reflexiones, en primer lugar, la necesidad de superar el miedo a los cambios. Como todos sabemos, la ley, el derecho va por detrás de la sociedad y mucho más en esta sociedad de tecnologías de la información tan avanzada. Por tanto, eso no puede producir vértigo. No puede producir miedo a continuar o no en determinados procedimientos, y muchas veces frenamos y decimos no, esto no podemos hacerlo a través de la inteligencia artificial porque no está regulado, porque los derechos fundamentales tenemos que garantizarlo siempre, la ética, sin embargo, al ver los resultados que se pueden obtener con inteligencia artificial, esa garantía de agilidad, de transparencia, esta revolución que puede suponer este apoyo, nuestra gestión diaria y fundamentalmente en los procesos contractuales, pues somos conscientes de que sin olvidarnos de que es necesario un marco legal que nos ampare, debemos continuar trabajando en esto y tampoco debemos olvidar, desde luego, para concluir que es la imperiosa necesidad de formar a los empleados públicos en esta materia para evitar este miedo ahora a las tecnologías y a la inteligencia artificial, y poder trabajar con ella de la manera más adecuada y más correcta, y ya para finalizar, para concluir y Alfonso me gustaría comentar. Es que como todos sabemos, estamos todos rodeados de inteligencia. Llevamos smart formas, llevamos marco, trabajamos en ciudades prácticamente ya inteligentes, los electrodomésticos diarios que nos rodean. Son inteligentes, por tanto, pues esto ya es un lanzamiento, a especialmente a los empleados públicos. Vamos a ser también todos inteligentes, y vamos a adaptarnos a estos cambios, pues ya, como ya dijo la ruina del siglo XIX no es más fuerte, que no es. No es más, no es, no sé no es menos, no evoluciona mejor la especie, que es más fuerte, tampoco la más inteligente, sino a la que mejor se adapta al cambio. Por tanto, eso es lo que estimo necesario en el ámbito de la Administración pública. Muchas gracias. Muchísimas gracias a usted por su intervención y bueno, continuando con la dinámica que hemos indicado anteriormente, vamos a pasar a nuestro tercer y último ponente de esta Mesa, que es Jorge Martínez Fernández. Jorge es jefe del servicio de racionalización de la contratación en la Secretaría General de la Consejería de Economía y Hacienda de la Junta de Castilla y León? Lidera desde que se inició su desarrollo en 2009, el proyecto de mayor implantación y volumen de tramitación digital de la Administración general e institucional de Castilla y León, la plataforma Duero, de contratación electrónica, plataforma que tiene actualmente datos de alta, más de 2000 usuarios y gestiona anualmente más de 22.000 contratos de forma digital. Es secretario de la junta consultiva de la contratación administrativa de Castilla y León y colaborador habitual en actividades formativas y de divulgación en el área de conocimiento de la Administración digital y de la contratación pública, con la publicación de artículos en revistas especializadas, conferencias e impartición de cursos de formación, Jorge muchísimas gracias por haber viajado hasta Murcia por estar con nosotros y bueno, vamos a oír sobre esta plataforma Duero y estaremos atentos a lo que dice la Ley 42.015 Pues sí nos interesa? Pues perdieron. Muchísimas gracias. En primer lugar, muchas gracias a vosotros por acogerme y por ayer tener una una jornada muy agradable con vosotros, muchas gracias, Julián por el recibimiento y la acogida, y también Alfonso y el resto de los ponentes compañeros. Yo la exposición que voy a hacer es una exposición basada en un proyecto, es el proyecto de contratación electrónica, la misa de Castilla y León. Su proyecto lleva 14 años. Empezamos en el año 2009 con un desarrollo y ahora, en el año 2023. Estamos en proceso de automatización que nos llevaron al alimente en el año 2025 a aplicar tecnologías de inteligencia artificial. Haber voy a contar un poco el foco donde lo vamos a poner. Yo voy a contar una experiencia en un proceso de transformación, a ver todas simplificación, porque lleva anudado el tributo de la inexactitud, y es muy probable que no sea exactamente así todo, sino que por aproximación se va contando a efectos simplemente de transmitir una experiencia, y nosotros o yo voy a hablar de de nuevo, que es nuestra experiencia, no la experiencia general. Luego habrá matices en cada 1 de los sitios, en el desempleo. Nosotros partimos de la idea de que la transformación digital en la contratación pública y en cualquier otro proceso parte innecesariamente, le una secuenciación desfases en donde la primera de las fases necesariamente sería la digitalización de todos. Los datos significa lización de datos. No se puede avanzar en la transformación digital cuando se han digitalizado. Todos los datos y en busca de eficiencia se pueden incorporar las de automatización, es decir, que sea sustituido el empleado público por un software de gestión capaz de sustituible, precisamente porque todos los datos están ya realizados y esas tareas repetitivas son susceptibles de actuación, y por último, una vez está secuenciado se podría paralizar la automatización y la inteligencia artificial, nunca la inteligencia artificial. La digitalización sin Digitalización e Inteligencia Artificial no nos va a producir un beneficio que sea apercibirle bueno, pues se podrían aplicar técnicas de inteligencia artificial bien, partiendo de ese esquema, de ese esquema, de que digitalizarnos automatizamos y aplicamos técnicas de inteligencia artificial. La exposición yo la voy a realizar en el enfoque de en cada una de esas 3 fases con los 3 actores que van a participar como empleados públicos en nuestras administraciones en ese proceso de cambio, por un lado, con la tecnología que tecnología y la digitalización y automatización y la inteligencia artificial. En un segundo punto de vista, el equipo de desarrollo e implantación de esa transformación, qué perfiles, qué características, qué desafíos va a tener en cada una de esas fases porque serán distintas, y en tercer lugar, el usuario, el empleado público, que matiz que qué actuación tiene en cada una de esas fases, en la digitalización, en la automatización y en la inteligencia artificial, porque a cada 1 de esos procesos le va a corresponder unos desafíos y unas ventajas distintas, siempre partiendo la organización, tiene un verdadero sistema de contratación electrónica cuando es capaz de generar un expediente electrónico mediante el desarrollo de un procedimiento electrónico íntegramente digital, que es capaz, además de incorporar datos y documentos. Cualquiera que sea el actor. Que los hayan generado sea un empleado público, sea una autoridad, sea un licitador, un contratista cualquiera, que sea la fase en que se ha producido sin la fase de preparación, y la ejecución en la adjudicación, en la ejecución, en la recepción del contrato, y cualquiera que sea. La aplicación en la que se ha generado, bien sea una aplicación propia, bien sea en aplicación del ministerio y del Estado. Bien saben la Seguridad Social, es decir eso hablaría de la interoperabilidad, en realidad, sin interoperabilidad y sin seguridad. No hay posibilidad de implantar una Administración digital y la interoperabilidad y si esa capacidad de conectar todas las herramientas que tenemos a nuestra disposición, las herramientas corporativas, el registro electrónico, la notificación electrónica, la factura electrónica, todo dentro de un expediente digital y poder intercambiar datos y documentos entre las diferentes aplicaciones bueno pues partiendo de ese esquema insisto de digitalización automatización inteligencia artificial y puesto el foco en esos 3 vectores. El vector de la tecnología, el vector del equipo de desarrollo, implantación y el usuario destinatario final, vamos a ir planteándonos unas cuestiones, una cuestión por cada una de ellas a tiempo más crítica en cada una de estas fases, en cada 1 de estos. Bueno, empezamos con la digitalización de procesos contractuales. La primera pregunta, por qué la digitalización tiene que basarse en herramientas tecnológicas de naturaleza flexible. Bueno, esto es muy importante y para que une, para que tenga éxito un proceso de digitalización dentro de una Administración, si no utilizase una herramienta, un software de naturaleza flexible, estás condenado al fracaso. Porque, bueno, en nuestra experiencia, en la digitalización de los procesos contractuales nosotros percibimos en las diferencias de tramitación en las fases de preparación y adjudicación del expediente son muy pocas. Por qué? Pues porque está muy normado, está muy reglamentado todo, y te van diciendo todos los trámites que tienes que llevar a cabo. Sin embargo, en la fase de ejecución contractual nuestra experiencia había muchas diferencias en la forma de tramitar unos mismos procedimientos. La razón es más o menos sencilla, todo actuar administrativo, pues sin actuar a través de procedimientos y el ordenamiento jurídico español desde hace muchos años, desde el año 58 distinguió 2 tipos de procedimientos. El procedimiento formalizado aquel en que el derecho positivo utilice todos los trámites, que hay que seguir para la sustanciación de una cuestión y el procedimiento no formalizado, que es un procedimiento, es el propio procedimiento administrativo común, la disposición del título VI, de la Ley 39 a 2015, en donde en función del caso concreto, habrá que llevar más trámites o menos trámites para que se pueda resolver de una forma simple y eficaz. La circunstancia concreta en la fase de ejecución contractual si vais al reglamento de contratos, no veréis que aparezca la forma de tramitar casi todas las incidencias de ejecución, dado unas pinceladas para algunos de ellos, pero la mayor parte no un caso muy claro de procedimiento formalizado es de la resolución de contratos, el artículo 109 Hay de forma básica para todas las administraciones públicas y por el carácter crítico del mismo te dice el legislador lo que hay que hacer, pero para el resto de incidentes de ejecución no se produce esa circunstancia. Bueno, nosotros lo que vimos cuando desarrollamos el proceso de tramitación digital es que esa solución, que busca el legislador, que se atiende al caso concreto, por ejemplo, si vas a imponer una penalidad el reglamento, no te dice qué trámites tienes que llevar. Lo normal; si es por una defectuosa por incumplimiento de plazo, es que hagas, bueno, pues un informe del responsable, un trámite de audiencia, una resolución del órgano. Sin embargo, ese mismo trámite de imposición de una penalidad si es por defectuosa ejecución en el expediente contradictorio hay discrepancias entre las partes; a lo mejor hay que pedir un informe pericial, a lo mejor hay que pedir un informe del servicio jurídico que quiero decir con esto. Que digitalizar los procesos de una forma rígida, hongos flow con flujos de trabajo en donde las tareas vayan secuencias, va a producir muchísimos problemas porque, entre otras cosas, es convertir en formalizado lo que el legislador ha dicho que prefiere, que no se ha formalizado que se atiende al caso concreto y porque había diferencias entre las diferentes unidades administrativas. Bueno Pues muy sencillo, porque esa solución no es la que muchas veces en la prácticas en las administraciones se adopta desde las administraciones, una unidad administrativa al final, marca un rito procedimental, independientemente del caso concreto, siempre lo aplica, sean muchos o pocos trámites, con independencia de las circunstancias que aconsejan la tramitación y luego las sucesivas generaciones funcionariales reducidas, por los éxitos de la costumbre. Siguen haciendo exactamente lo mismo. Es la diferencia. Está en que no se aplicaba la solución al caso concreto, pero tiene que ser flexible no solo por eso, por una razón técnica, una razón jurídica, sino que también todos los que estáis aquí como empleados públicos sabéis que cuando se tramita un procedimiento no es lineal la tramitación, hay errores, hay vueltas atrás. Hay observaciones a los servicios jurídicos, hay reparos de la intervención, observaciones en la intervención si no utilizas tecnologías flexibles, que permitan poder volver atrás, poder versionar documentos, poder gestionar de una forma ágil. Vas a tener un soporte muy grande, por tanto, siempre hay que buscar herramientas flexibles; permitan encontrar una solución a estas circunstancias que permitan dar una cierta abstracción, una cierta expresividad a los lenguajes de programación, que nos permitan variar en función de las circunstancias concretas. Por tanto, es muy importante que la digitalización se base en tecnologías flexibles. Una segunda cuestión es por qué es crítica la adecuada toma de requerimientos para el éxito en un proyecto de digitalización a ver lo han comentado antes los compañeros de la ponencia. Nosotros tenemos que colaborar con el sector privado en los procesos de transformación, y muchas veces pues externalizamos lo que es la parte de desarrollo del software, pero generalmente en los procesos complejos se hace en desarrollo esa medida y hay que dar unos requerimientos, unas especificaciones funcionales. Hay que decirle al constructor correspondiente que es lo que queremos que haga el proyecto por nosotros Qué es lo que ocurre? O porque son críticas en el ámbito del desarrollo del software, el perfil del quedar los requisitos? Bueno, el mundo hemos nos hemos incorporado Administración pública mucho de nosotros en un mundo muy binario, de ciencias o letras era el estudiar o trabajar. Bueno, realmente hoy en día nadie puede trabajar eficientemente si no sigue estudiando realmente las administraciones precisan de perfiles híbridos de profesionales que tengan capacidad no solo de decidir jurídicamente lo que debe hacer el software, sino también de comprender lo que el software puede hacer por la Administración correspondiente, lo que se puede desarrollar, un procedimiento concreto desde el punto de vista, la tercera pata que desde la digitalización, porque existe tanta resistencia al cambio por los usuarios cuando se implanta un nuevo software de gestión de procesos. Esto es un clásico. Todos los grandes proyectos hay una resistencia al cambio muy grande. La explicación es muy lógica y es incluso hasta científica. Al final, el cerebro es un euro plástico, tiene capacidad de cambiar sus estructuras a través del aprendizaje, pero es verdad que una vez ha mecanizado unos hábitos, somos muy capaces de ser muy eficientes, realizando una tarea dedicándole muy poco esfuerzo. Nuestro cerebro es un ahorrador nato de energía, cuando tú plantas, un sistema digitalizado necesariamente te encuentras con que cambia es un paradigma de actuación un nuevo tramitado en soporte papel, con una serie de condiciones. Ahora tramita de forma electrónica y además te vas a implantar un software que en un principio no va resigno, no va a ser tan eficiente como la actuación que realiza, va a tener defectos, va a producir determinados soportes determinados problemas -paralizaciones, luego, evidentemente, a medida que se va depurando va a ser mucho más eficiente. Pero la resistencia al cambio el principio es un clásico, 13 en cuenta que de los grandes proyectos, y estas son métricas americanas, no son métricas españolas y no son del sector público, son del sector público, del sector privado, de los grandes proyectos de transformación digital, proyectos de una cierta envergadura. 2 de cada 3 proyectos fracasa 2 de cada 3; hoy a día de hoy siguen fracasando 2 de 3 proyectos y fracasan más en el sector privado en el sector público Por qué? Bueno, pues en buena medida, porque el sector público es capaz de seguir invirtiendo aunque no le dé la satisfacción adecuada. Sin embargo, en el sector privado muchas veces si no se obtienen los retornos correspondientes se abandona el proyecto y punto. Estos serían los 3 ejes en el ámbito de lo que es la digitalización. En la automatización de procesos contractuales siempre partimos de que hemos digitalizado todo el proceso que no podemos automatizar, si no están digitalizados las actuaciones. Bueno, como sabéis, la primera pregunta sería. Por qué no pueden automatizar si todos los actos y todas las actuaciones administrativas, es decir, es decir, sin perjuicio de la tecnología que soporta esa automatización, que puede ser o bien en el software de gestión en el que se desarrolla la digitalización, o bien puede ser utilizando tecnologías como son los robots, los PEAS o bien puede ser mediante los intercambios automatizados, con las herramientas con las que se es lo que son, las integraciones biturbina con otros sistemas, intercambios, datos y documentos porque no pueden ser automatizados todos los actos y actuaciones administrativas. Bueno, porque en principio, si nosotros entendemos el procedimiento como esa serie de actos en que se concreta la actuación administrativa para la consecución de un fin entenderemos, en primer lugar, que en un procedimiento administrativo van a convivir actos que son susceptibles de automatización abiertos, virtuosos susceptibles de automatización. Y qué actos son susceptibles de automatización? Hombre, en principio todos los actos, que son otras actuaciones que son puramente materiales, las incorporaciones a un expediente digital de la solicitud de un registro electrónico, las comunicaciones internas, entre órganos, las notificaciones electrónicas, cumpliendo todos los requisitos del artículo 41 de la Ley de Procedimiento, todo esto es automáticamente. Por qué? Bueno, pues porque no se aporta un valor añadido por parte del empleado público, son más eficientes, son más rápidas, etcétera, y en el ámbito de las decisiones administrativas una decisión administrativa puede ser automatizada, pues dependerá del contenido de la decisión, si es una potestad reglada en que todos todos, todos los elementos vienen determinados, pues si es susceptible de automatización, pero desde el momento en que exista un concepto jurídico indeterminado, aunque la potestad se arreglaba y ya no digamos cuando la potestad discrecional ahí no cabe automatización, no cabe aplicar al supuesto de hecho una regla y obtener una consecuencia, que es lo que es, en definitiva, una actuación puramente reglada. En realidad todas las actuaciones administrativas del siglo XIX y buena parte de ella se dan actuaciones regladas, pero realmente la Administración hoy en día, sobre todo a través de las directivas comunitarias, estamos sometidos a lo que se llaman programaciones finalistas, se busca obtener un fin que hay que apreciar mediante el caso concreto, las circunstancias concurrentes, buscar la mejor oferta, relación calidad-precio en otros ámbitos, buscas una expropiación, el justiprecio en una actividad, que ya está bien y después lo debe de inspección, unidad técnica, etcétera, en donde la automatización no cabría en ningún caso desde el punto de vista de la el equipo de coordinación para la implantación desde el punto de vista del equipo de desarrollo e implantación. Por qué resulta crítica la coordinación entre todos los órganos de contratación en una organización compleja para abordar los procesos de automatización? Bueno, como sabéis, los procesos de automatización o la automatización de actuaciones administrativas, que es la sustitución en el marco de un procedimiento administrativo de un empleado público mediante la actuación automatizada, requieren unos requisitos de carácter formal, requiere desde el punto de vista del artículo 41 el artículo 13 del Real Decreto 203 barro 2021, que no es aplicable a todas las administraciones porque no es básico, pero bueno, que en buena medida muchas actuaciones lo están administraciones están haciendo, es bueno, pues se debe publicar en la sede electrónica que actúa administrativo susceptible de automatización a quien se le imputa ese acto, y una serie de requisitos que vienen recogidos en esos artículos. Es que, además, si es estar en una organización compleja en la que, por ejemplo, puede haber 100 órganos de contratación utilizando un mismo sistema, sería una auténtica locura que cada 1 decidiera que automatizar y que no automaticen, con lo cual tiene que estar sincronizada toda esa actuación para que no nos terminamos perdiendo. En ese proceso, en el ámbito de Castilla y León, en el acuerdo de la Junta de Castilla -de 14 de septiembre de 2022, se introdujo por parte del Consejo de Gobierno una serie de directrices para que los órganos de contratación actúe simultáneamente en la automatización de procesos y, bueno, a día de hoy, que hemos automatizado. Nosotros. Nosotros tenemos automatizados en el ámbito de la contratación, todas las incorporaciones de solicitudes por registro electrónico al expediente digital, en el ámbito de la contratación, tenemos todas las notificaciones electrónicas también automatizadas, y el grado máximo de híper, automatización que tenemos, que es incluyendo la propia resolución del órgano de contratación de adjudicación, es para los contratos basados en acuerdo marco, con un único adjudicatario, con todos los términos cerrados, pero tenemos con servicios postales y con energía eléctrica, y en donde en cada 1 de ellos entre 200 300 contratos se gestionan de forma completamente automatizada, con una incorporación muy pequeña de datos por parte de los de los usuarios. Por tanto, es crítica esa coordinación en ese proceso de transformación Para qué quieren que vayan todos aquí y esta sería la tercera pregunta. Respecto de la automatización, por qué a diferencia de la digitalización, la automatización de procesos presenta muy poca resistencia al cambio y los usuarios ha sido una sorpresa. Para nosotros, primero, la resistencia al cambio es un capítulo importante, pero cuando, incorporando implantas de automatización sorprendentemente en un principio luego tiene un sentido, no hay resistencia al cambio. Por qué? Bueno, pues porque al final, si hemos dicho que lo que a ti te produce malestar o incomodidad, es que te cambien el paradigma de actuación, que resulten menos eficiente, que tengas que realizar un aprendizaje. La automatización de procesos previamente digitalizados es simplemente sustituir al empleado público en determinadas tareas, en un proceso que ya conoce. Entonces, si antes hacía 10, 12, 15 tareas pasa a hacer 7, 6, 5, con lo cual está encantado. Tampoco habría una gestión del cambio por una reducción horaria, o para mí eso no requiere gestión del cambio? Vale? Entonces una reducción de tareas lleva a cabo ese beneficio. Bueno, ya hemos digitalizado y hemos pasado a procesos de automatización en el ámbito de la inteligencia artificial. Desde el enfoque que nosotros tenemos en nuestro proyecto y hacia dónde lo vamos a lo vamos a dirigir En qué sentido vamos a decir Bueno, para nosotros la aplicación de técnicas de inteligencia artificial puede producir más retornos en el proceso de tramitación que en el propio proceso de toma de decisión. Es verdad que en el proceso de toma de decisión es fantástica la inteligencia artificial y hace fortuna en el sector privado, porque realmente permite ayudar a tomar una decisión de una forma mucho más eficiente. En un mundo ideal la Administración también sería, pero la práctica de los que estamos en la Administración no. Siempre se rige por la misma lógica la toma de decisiones y, de hecho, en los que hemos hecho proyectos de implantación grandes, los sistemas de información muchas veces que son sistemas muy caros y de formación, ahora no con inteligencia artificial, sino con procesos de software, luego no son utilizados de una forma estricta para tomar decisiones. La lógica es otra. Sin embargo, la inteligencia artificial, en la lógica de producción administrativa, puede ayudar en el proceso de tramitación, fundamentalmente a la hora de todos los usuarios, que puedan conocer de una forma mucho más ágil y el procedimiento de tramitación y el derecho sustantivo que en el que se basa las decisiones que tienen que tomar. En segundo lugar, claro, la aplicación de técnicas de inteligencia artificial en un sistema compartido de forma corporativo en organización medio grande, va a exigir una mayor especialización y dotación de recursos en quien desarrolla, en quien desarrolle ese sistema. Al final, cuando se aplican técnicas de inteligencia artificial o procesos de automatización, en cierto modo a los que son los usuarios finales, se les quita carga de trabajo, se les quita necesidad de conocimiento, pero ese se concentra en quien está liderando ese proyecto, que va a tener que alimentar con información fiable al algoritmo en el caso de la inteligencia artificial o con información adecuada en el caso de las parametrizaciones de las automatización, con lo cual es necesaria esa. Esa característica y la última de las de las cuestiones, a nuestro modo de forma, es porque la inteligencia artificial puede mitigar el elemento crítico para el uso de sistemas complejos, como es la excesiva rotación de personal y un sistema viejo de tramitación, es decir, los que allí se utilizaba. La plataforma de contratación del sector público se habrá parecido compleja y herramientas de ese tipo, son normalmente, el aprendizaje timing, gap, tiene una brecha, y 1 de los problemas que tienen las administraciones es que el personal que se adiestra en el conocimiento de esas herramientas, después concursal se va y deja ahí esa laguna que produce, pues una cierta distorsión. Claro, a medida que los sistemas, por muy complejos que sean, les metas, procesos de automatización, con lo cual las tareas ya no las tiene que hacer el usuario o les metas; inteligencia artificial que permita a través de chat vox etcétera, guiar al usuario para que pueda realizar la tarea correspondiente, tanto desde el punto de vista objetivo, procedimental como desde el punto de vista del derecho sustantivo, basa plana del conocimiento, ni basa. Minimizar el destinatario último, con lo cual vas a favorecer que cualquier tipo de cambio tenga una transición menos agresiva en la que tienen actualmente. En principio, esta es la el conjunto de ideas que quería compartir con vosotros y un poco, pues abierto también a todas las cuestiones que creáis plantear y encantado del Estado con nosotros. Muchas gracias. Muchísimas gracias, Jorge Bueno, pues sin más, damos la palabra público. No sé si alguien quiere hacer alguna pregunta, aprovechando la presencia de los proponentes. Bueno, enhorabuena a todos, me encanta respecto a la calificación que yo creo que es un tema que en el control interno también hemos tenido, no bloqueamos porque no entendemos que es que la tecnología no es una obra y nos encantaría que fuera una obra y con la medición de una obra, pero no puede ser, y los interventores en eso a veces colapsamos también los técnicos. Teníamos un caso paradigmático de un licencia, un suministro y licencia que llevaba aparejada un mantenimiento y era nada, era un menor claramente, pero el mantenimiento era por 2 años y entonces ahí empezamos a hacer visto no decir. No puede superar la anualidad y llegamos al absurdo de que quería queríamos excluirlo del menor terminológico, no decir Bueno, pues es un feminismo, suministro con una garantía y llamándola así colaba como menor. No saca el fin, que bueno, no, pero que al final y acabo le hemos dado muchas vueltas, para mí los desarrollos informáticos que veo hoy día publicados son claramente personal que trabaja en proyectos de la Administración, sí que que puede haber un producto cerradísimo que te lo instalen. Pero es que normalmente hay que hacer servicios de integración, personalización y, al fin y al cabo, lo que se pone de manifiesto que necesitamos un personal especializado y a veces cuando nos tensionados y decimos es que no, no lo tenía previsto, lo suficiente es que vuelvo a repetir, es que no es una obra y es que suelta, place, la última actualización y tienes que hacer un desarrollo y programación semana entonces, yo me inclinaría más por servicios, salvo que fuera un suministro muy cerrado y siempre tenemos que ser muy imaginativos, porque la ley no ha sido justa con las tecnologías. Esperemos que en la próxima espere un poquito más inspiradas terapias imaginado tutores interventora. No es una maravilla también que la intervención sea consciente de que la tecnología no es un contrato de obreros, un contrato al uso de lo que pretende regular la Ley de Contratos del Sector Público y que eso debe utilizar, que todos los técnicos, que todo lo que participamos en el proceso de contratación, incluida la intervención, lo tenga claro, pues es un lujo. Porque porque garantiza que el contrato puede fluir y poder funcionar, y efectivamente estoy de acuerdo antigua que vamos a ir ahogados al contrato de servicio. Porque al final todo va a ser hecho y todo va a obtener un resultado en tramitación. Le interesa obtener ese producto, o sea que estoy de acuerdo. Sí bueno, bueno, muchas gracias por la, por la mesa. La verdad es que para lo que trabajamos en contratación, estos temas de las técnicas de inteligencia artificial en blanco no lo sé, pero lo veo como un lienzo nuevo, a escribir, porque es un tema evidentemente apasionante y apabullante también por no utilizar otra otra expresión, no al hilo de lo que he estado escuchando, hacer 2 reflexiones que son también 2 preguntas que he trasladado. Lo primero es si de las experiencias que hay ahora mismo no vamos a vivir una segunda o tercera revolución industrial, donde la mano de obra entiendo ser funcionario está llamado a extinguirse o por lo menos reducirse en una cantidad importante, lo grande del grupo de trabajo de muchas personas y no se va a haber reducido en ese sentido drásticamente precisamente por la automatización de procesos de toma de la gestión de datos, etcétera, y eso que estamos hablando en el ámbito de la contratación pública. Pero esto se extiende a todos los ámbitos de la Administración. En el ámbito de la sanidad, por ejemplo, ya existe experiencia en donde a partir de la toma de datos de unos síntomas, las técnicas de inteligencia artificial, diagnóstico y tratamiento médico de familia, pero también tendrán sus cosas que decir en este sentido. Lo primero si si esto no está llamado a que a medio y corto plazo efectivamente lo que es la tarea del funcionario un tradicional clásica esté llamada a desaparecer y, por tanto, a reducirse o reordenarse lo que son el personal y al hilo de todo, aunque algunas ponencias ya lo han dicho en el sentido de que no todos los trámites de un procedimiento de contratación son susceptibles de automatización. Yo me pregunto, y yo creo que ya a raíz de lo que estoy escuchando, donde seguramente la imaginación es el único límite que mundo podemos plantear si el acto central de un expediente de contratación, que en la adjudicación donde toma de decisión, basada en criterios matemáticos y un juicio de valor ese concepto del juicio valor, un concepto humano juicio de valor si no llegara el momento en que desaparezca, y se atreven sustituido por una valoración hecha por un sistema de inteligencia tenido en cuenta además, que la segunda parte, que a lo mejor la oferta presentada por un operador ha sido elaborado también por inteligencia artificial, es decir, que estamos hablando de 2 sistemas luchando entre ellos, sabiendo que estos sistemas, por lo que estamos hablando, aprenden razonan y elaboran nuevas soluciones. Es decir, que esto ya es un poco productivo. Bon dia. Un mundo ya de ciencia ficción o o no estoy igual, no sé si ahora, pero dentro de un tiempo lo veremos. No reflexione y un poco el planteamiento de la situación. Muchas gracias por las preguntas. Yo doy una visión y luego mis compañeros darán otra. Bueno, yo creo que la eso es evidente que determinadas automatización es, pues a permiten reducir determinados trabajos o determinadas funciones determinadas tareas por ejemplo las tareas relativas por ejemplo cuando nosotros nos presentamos a las oposiciones tenía que presentar un formulario en soporte papel, lo sabía la lista de admitidos y excluidos, luego hoy en día se entradas online validar formularios, que no te equivoques, no hay prácticamente, evidentemente todas esas personas que se dedicaban a hacer esas cosas, pues esas funciones no se han hecho, pero bueno, la Administración en ese tipo de procesos, pues ha ido avanzando y es bueno que avance en ese sentido lo que comentabas de la sustitución de la inteligencia artificial. Respecto a la labor del funcionario, te voy a dar mi visión luego, pues mis compañeros, pues que probablemente tenga más conocimientos que yo puesto y luego te lo darán su visión. En principio, lo que estábamos comentando. Antes de los juicios de valor tú sabes que sin perjuicio de la actividad discrecional en la Administración y muchísimos conceptos jurídicos indeterminados, que, que valorar en el caso concreto, claro y en la doctrina clásica que estudiábamos en derecho administrativo, nos decían que el concepto jurídico indeterminado había que encontrar la solución justa y esa solución justa era la única. Además había, bueno, si esas zonas de incertidumbre, etcétera, que había que calibrar, claro y esa solución justa y es muy fácil que la inteligencia artificial, generativa por ejemplo pega un discurso de despedida de de cuándo te vas a jubilar y ese discurso de despedida está muy bien, que hace la inteligencia artificial, está muy bien que haya suscrito, tú está muy bien y que podría haber escrito que se jubila, que hubiera delegado a la inteligencia artificial. Todos están muy bien, todos son soluciones justas, pero para llegar a un justo precio, para hallar el elemento correspondiente solo o y además a través de la motivación que debe fundamentarse, que es lo que distingue la discrecionalidad de la actuación administrativa a día de hoy, lo que es la inteligencia artificial, tal y como está. Además. Sabéis que la inteligencia artificial hay diferentes grados y esta sería la inteligencia artificial profunda. En principio, por lo que yo sé estamos bastante, bastante lejos de que se puede ir, sobre todo porque nosotros, nuestra inteligencias deductivas nosotros deducimos, a través de muchos elementos la inteligencia artificial. Es una inteligencia que correlaciona muchos datos para obtener una conclusión. Si vamos o tenemos que encontrar la solución justa al caso concreto, no difícil a día de hoy que la inteligencia artificial, pues yo no sé si quieren. Se puede estar tranquilo, participar. Básicamente hoy y lo bueno, por favor, por recordar algo que yo creo que también tenemos más o menos claro todos cuando hemos empezado a entender lo que realmente si esta nueva revolución evidentemente es una revolución es una revolución digital, es una revolución industrial equiparable perfectamente a la revolución industrial que se vivió en su momento con un impacto absoluto en cuanto a cuestiones de mano de obra. La el rasgo, que es clarísimo en esta nueva revolución industrial, es que es una revolución que viene a impactar en profesiones; estas profesiones, que ahora que llamamos de cuello blanco o no, que realmente esa es la revolución industrial que ha habido hasta ahora, ha ido a impactar a trabajos más manuales y más sustituibles por las máquinas y ahora estamos ante una revolución que impacta profesiones, que parecían intocables absolutamente dígase profesiones en el ámbito médico de la salud en el ámbito legal, en el ámbito de las tecnologías de la información misma, donde realmente la producción, ahora mismo de trabajos que eran absolutamente creativos, donde eran casi artesanales y donde dependían absolutamente de personal muy cualificado, incluso en los niveles más bajos. Pues viene a revolucionar lo; por lo tanto, evidentemente estamos ante una revolución, acabaremos viendo dentro de 4 o 5 años, pues sería muy difícil de pronosticar, pero, bueno, también es cierto que lo que lo que lo que ha ido quitando la revolución en determinados trabajos lo ha ido creando en otros y al final o es, tampoco ha sido tan terrible como parecía en su momento. Pero, bueno, esto es una reflexión ya casi personal, lo que sin duda es que no podemos negar que tiene su impacto en este sentido. Si yo, al hilo de lo que han comentado mis compañeros, efectivamente estamos ante una revolución y, en mi opinión desde luego no podemos pronosticar lo que a dónde vamos a llegar, porque en tan breve espacio de tiempo ha habido tan grandes avances que probable que nos encontremos ante estas situaciones de no lo descarto primero no debemos descartar nada sin embargo insisto en que no podemos tener miedo a esto. Termino a los cambios, por ejemplo, por hablando de la profesionalización de las personas y, como ha comentado nuestro compañero Juan, es cierto que a las profesiones de cuello blanco le ha quitado determinadas tareas, pero ha implementado otras, y, de hecho, los datos son claros. En aquellos Estados, por ejemplo, en la Unión Europea, que están mucho más digitalizados, el paro es mucho menor. Por ejemplo, Alemania, que es un país absolutamente digitalizado, pues el paro es muy inferior a Grecia, en la que la digitalización está muy, muy por debajo de la alemana, y así sucede también, por ejemplo, en Corea -Corea, que es el país más digitalizado. No tiene para decir que quiero decir que al final tenemos que hacer cambios transformarnos y llegar a comprender que la digitalización es una herramienta más que forma parte de esta revolución y formar parte donde esta regulación se ha ido de la mano de la revolución, porque, si no estamos, desde luego, abocadas al fracaso. Si la pregunta, en cuanto al tema de los criterios de juicios de valor, me me ha recordado la noticia de hace unos pocos días del traje para la realización de licitaciones, salía y claro, yo imaginaba a un licitador diciéndole a ese traje P de licitaciones, que le hiciera la memoria para un determinado contrato. Si ese traje en vez de está bien nutrido de información, tendrá la memoria de los que ganaron. En las últimas licitaciones, y todos pensarán. Presentar la misma memoria, digamos, la empresa. Si quiere ganar, pues se sé vinculará a la letra de esa memoria presentada en la memoria. Me parece una solución extraña la que no llevaría esa inteligencia artificial, a lo mejor no es así y lo haría, digamos, adaptándose a nada licitador. Pero realmente a quien se tendría que adaptar no es al licitador, sino del de adaptarse al pliego, que es el que quiere ganar. Pero, bueno, esa esa solución realmente tampoco sería tan descabellada, pensando que, en un mercado de competencia perfecta, al final lo que entiende la oferta a la que se enfrenta la demanda del poder adjudicador Es a optimizar en un punto no, y ese punto es común para todo, para todos los licitadores. Entonces, bueno, es curioso, no como como esa herramienta puede cambiar también la forma de funcionamiento, incluso expandir el conocimiento, porque en el fondo está entrenado con o debería estar entrenado con esa memoria ganadora previas, no a las que es difícil acceder en determinadas ocasiones, también luego pensaban en ese juicio de valor. Bueno, la Administración podrá decirle a su propio traje en el otro lado de la banda puede convertirme este juicio de valor en criterios objetivos que desglosen y me permitan valorar lo mismo que ese juicio de valor. Bueno, pues es interesante. Un mes me hacía surgir esa cuestión. Era una pregunta, a teníamos otra. Teníamos otra pregunta por ahí. Ahora sí bueno, en primer lugar, enhorabuena y mucha gracia a la Mesa puerta de la ponencia, y mi pregunta iba relacionada con respecto al crédito, que se ha mencionado de la confidencialidad, porque sé se teoriza mucho sobre la cesión o no, por ejemplo, del código fuente a la hora de mejorar transparencia, apariencia, la motivación de la decisión nativa, etcétera. Pero aprovechando que la Mesa y representantes, tanto de la Administración pública como del sector privado, quería preguntar sobre el momento de la verdad, decir a la hora de negociar todo esto. Punto realmente de qué posición se parte por cada una de la parte negociado ahora, es decir, la Administración quiere más que la que la la empresa pueda ceder este tipo de de protegido en cierto modo de la propiedad intelectual o no se preocupa tanto? Por eso, ese negocio más otra otra es otro aspecto. No sé si si me podrían dar algún tipo de lugar respecto Muchas gracias. Como he tratado hoy un poco, esta cuestión fue trato de responder como bueno, como comencé a explicar. En mi opinión, Administración, lo que busca es ese equilibrio. Por supuesto, lo que no agotaría tener todo todos los secretos comerciales tenerlo todo en nuestra mano ha sido bajo nuestro poder, nos encantaría, pero somos conscientes de la eliminación de la empresa tampoco, tampoco va a ceder en eso y que ellos tienen su ahora. Nuestro compañero también le llegará hasta dónde pueden llegar, es decir, tenemos que garantizar ese equilibrio para que las empresas concurran para que las empresas quieran trabajar con nosotros, pero hay una vez nosotros poder garantizar la trazabilidad y poder explicar nuestras decisiones para no incurrir en arbitrariedad. Bueno, porque todos sabemos los actos, la mitad, y usted en que estar motivado. Auguro el artículo 25 de la Ley 39.015, con lo cual esa motivación tenemos que garantizar siempre garantizando el cumplimiento de la normativa o llegar hasta donde podamos para que las empresas tengan interés en participar con nosotros sin concurrir a otros procedimientos y evitar también que quieren es cierto, sino y no poder continuar en nuestra en nuestros avances en materia tecnológica. Sí estoy totalmente de acuerdo. Yo este tema. No tiene otra, no tiene otra, no tiene otro arreglo y ya ya ya nos enfrentábamos a estas situaciones, también antes de tener que lidiar con ese tipo de herramientas. Pero respecto al tema de confidencialidad como tal, yo cuando estaba escuchando la pregunta estaba pensando que podía ir también por otro lado porque hay otra otra cuestión que es bastante compleja en cuanto a ese tipo de herramientas, que es realmente la confidencialidad. En cuanto a la información que estamos manejando y los motores de datos o los las herramientas que están manejando estas estos datos y ahí hay un reto bastante importante puesto principalmente la inmensa mayoría de las herramientas, por lo menos que estamos viendo hoy día y posiblemente Irán ya estoy ya es un tema muy técnico, pero conviene tenerlo en cuenta, son herramientas que están en la nube y que son herramientas que va a ser muy difícil que tengamos nuestras nuestros servidores, ya incluso por cuestiones de potencia de proceso requieren una potencia proceso amplísima, claro y además requieren manejar datos masivos. Son buenas cuando manejan datos masivos, que son datos que están fuera, pero realmente nosotros queremos suministrarle datos Qué son datos en muchos casos que son confidenciales y ahí hay un equilibrio entre los datos confidenciales que tenemos que manejar desde dentro, cuando los suministramos ya lo estamos haciendo 2 público en cierta forma o por lo menos estamos enseñando entonces hay este es un tema muy a tener en cuenta y todavía por por madurar. En cuanto a las herramientas que se ponen a disposición, que son herramientas base y que son tecnologías que están al alcance de muy pocas compañías, todavía en el mundo y muy pocos la investigación son las tecnologías que vamos a empezar a utilizar todos en el siguiente nivel. Por lo tanto, por ahí va a haber un reto importante. Bueno, pues entonces nos podemos quedar tranquilos, que la inteligencia artificial nos permitirá cumplir con el artículo 3 de la confidencialidad de los documentos aportados por los licitadores no perfecto pues. Otra pregunta por aquí. Este tema de la transparencia precisamente el salvinismo esta está muy de moda yo creo que es 1 de los grandes retos que plantea la tecnología y, en concreto tenemos ya una primera sentencia judicial del Juzgado de lo Contencioso-Administrativo número 2 de la Audiencia Nacional. En relación con el algoritmo del caso Bosco, no sé si les suena, es un organismo que se ha utilizado por la misión del Estado para otorgar el llamado bono social eléctrico a familias y personas que estaban en situación de exclusión, para que pudieran consumir la luz con toda garantía, no, y lo que lo que dijo está bien en la sentencia, que ha sido objeto de apelación ante las áreas de su iniciativa, relevancia nacional, o sea, estamos construyendo un camino es que no hay derecho a acceso al código fuente. Primera idea que solamente tiene derecho de acceso al requisito, los al documento con los residuos funcionales. Ya los datos de las pruebas realizadas, la pregunta es si este planteamiento de acceso limitado a la información es suficiente en un contexto de potencial conflictividad como puede ser la adjudicación de un contrato, hasta qué punto los riesgos jurídicos que supone un momento tan delicado como es este dentro del proyecto contratación, pues ese tipo de herramientas se deberían utilizar o no tenemos capacidad de asumir el riesgo que supone. Hay un artículo muy interesante que les recomiendo, es tan abierto en boletín en el año 1.019 del extendérselo ni donde él plantea, desde una doble perspectiva, como la Administración pública puede plantearse o puede aceptar el uso de la entidad artificial, el doctor en entidad artificial y funcionarios del Estado, algo sabe de esto, no de la Administración y de la tecnología, y lo que plantea es que la Administración tiene que ser consciente de los riesgos. Yo creo que cada una de las actuaciones en materia de contratación que habéis ido exponiendo tiene sus riesgos, y esto quiere decir mi opinión, que en algunas actuaciones se puede justificadamente utilizar esta tecnología y en otras el riesgo mayor, y esta es la segunda parte del razonamiento de Alexander; lo que dice es. No solamente tienes que tener constancia de los riesgos, sino que tiene que ser capaz de aceptar la consecuencia negativa que se deriva del riesgo; es algo que es bastante elemental pero que en el caso de la Administración pública no genera un problema adicional a mi punto de vista, y es la aversión al riesgo que tenemos en el sector público. Tendremos, intentamos tender a que el riesgo sea 0; eso bloquea a veces la innovación y la trasformación digital, y puede suponer un elemento inhibidor muy fuerte a la hora de poner en marcha ese tipo de herramientas en momentos clave de la tramitación del procedimiento de contratación. En otros momentos, donde no hay tanta conflictividad como puede ser la ejecución del contrato luego hablaremos en otra mesa, a lo mejor más sencillo puede puede haber menos litigiosidad y puede dar lugar a menos riesgo. En definitiva, esa es mi reflexión, no, y si contamos una parte de lo que he dicho, no la transparencia, etcétera, con esta segunda parte de mi intervención, pues la Administración puede tener un problema a la hora de justificar la decisión que adopta el punto de vista de la no allá de la motivación. Ahora ya sabéis que en el contexto de la entidad artificial a nivel doctrinal sobre todo hay quien habla de la explica habilidad en la motivación como requisito formal de la decisión administrativa se está superando por la singularidad de la tecnología. Necesitamos saber cómo se ha entrenado, con queda todo si son suficientes y son adecuados. Es definitiva, la complejidad tecnológica lleva a un reforzamiento de las garantías de transparencia, ya que adaptar a esta realidad las garantías tradicionales que tenemos, que a veces no es que estén desfasadas, son, por ejemplo, la Ley de Transparencia 2013. Evidentemente, no he hablado de la entidad artificial, pero sí que establece una regulación general que se puede modificar, tocándoselo también hacer propuestas a nivel doctrinal, pero bueno, ha servido, por ejemplo, en Cataluña usted lo conoce bien, ha servido para reconocer importantes garantías al ciudadano, no en relación con el uso de alcohol; ritmos, de manera que a mí lo que me preocupa realmente y ya termino en este contexto es va a ser capaz la Administración de justificar el sentido de su decisión. En qué situaciones? Quizá esto va a ser más difícil? Pues allí posiblemente tengamos un inhibidor muy, muy definitivo, casi no a la hora de utilizar la tecnología. No sé qué pensáis sobre este tema. Yo creo que ha sido muy bien explicado en este sentido, pero ahora no he captado si había una pregunta, al final, usted ha dado un segundo, no Sí, bueno, que hay que pensar y no sobre este. Esta combinación entre el riesgo, la capacidad que va a tener o no la Administración de justificar su decisión, como la intermediación de la tecnología, puede dificultar no, porque, en última instancia, vamos a tener una revisión en vía administrativa, los Chare de Recursos Contractuales, incluso en vía judicial, y en este sentido la misión tendrá que justificar de manera precisa, porque ha tomado la decisión y no otra, y en algunos tipos de algoritmos de caja negra, etcétera. Este reto puede ser todavía mayor. Pero, evidentemente, la cuestión está muy relacionada con la propia Ley de Propiedad Intelectual, no hay nada nuevo, en mi opinión, en este tema, que no sea lo aplicable en la Ley de Propiedad Intelectual. En cualquier caso, son algo equipos que están protegidos igual que el sector informático tradicional; a partir de ahí el tema es casi puramente jurídico, más que más que no o no. No, no veo una novedad, y especial en este sentido, que no esté cubierta ya por la Ley de Propiedad Intelectual. No sé si hay algún algún aspecto o algún carácter que realmente, si surge ahora que no tenemos voz, que no podamos contemplar o cubrir con la, con la ley actual. Ahora sí en orden a esa reflexión, yo entiendo que lo que no me comenta Julián es lo de la falta de aplicabilidad yo creo que a través de la espiga habilidad del propio, sea que los los algoritmos que la Administración contrata para trabajar en general en inteligencia social sean explicables, es decir, que esa trazabilidad podamos explicar a nos va a ayudar a justificar las decisiones, porque, claro, la motivación ya no va a ser la motivación tasada y previstas, sino la motivación va a venir dada por la aplicabilidad de la del algoritmo que contratemos. Yo creo que se refiere a eso. Julián, no. Y dónde está? Dónde están esos límites? Pues tendremos que fijaron nosotros siguiente, luego que tendremos que avanzar también en el marco, en el marco normativo que establezca estos límites ya y ahora vengo será la jurisprudencia los que la que nos vaya marcando como antes se habla de motivación. Hemos avanzado, hoy hablamos de aplicabilidad. Efectivamente, la propia jurisprudencia se ha adaptado a estas tecnologías porque desde luego que es una materia tan tan amplia por explorar, que todavía no somos capaces de decir hasta dónde podemos llegar hasta donde hay que explicar y hasta dónde hemos que poner límites a la inteligencia artificial. Yo entiendo lo que dice Julián del carácter conservador que tenemos las administraciones y que es verdad que es muy difícil innovar sin tomar. Es verdad que en la práctica es muy difícil. En actividad prestacional yo creo que va a ser muy habitual la inteligencia artificial, porque, bueno, pues un volumen de final no se toman unas decisiones que puedan tener o comprometer tanto los derechos de terceros desde el punto de vista de la actividad burocrática, del aparato burocrático, la adopción de decisiones, envasadas e inteligencia artificial. Es verdad que en los ámbitos en donde más el sector privado está ofreciendo en la Administración procesos de más en la línea de automatización, que de inteligencia artificial, aunque son conceptos muy vidriosos, muchas veces no hay un límite, no hay una definición pura, pura, pura, hay gente que habla de automatización en procesos, que son inteligencia artificial o viceversa. En el ámbito de las subvenciones sí que es verdad que en lo que yo conozco las administraciones sí que están ofreciendo determinadas soluciones para, sobre todo en procesos masivos de peticiones como fue por ejemplo en la época de los ERTES, con el COVID para resolverlas, y en principio no, ni de momento el nivel de penetración en lo que yo conozco no está siendo el aparato burocrático muy de momento en está siendo muy extenso, más y en utilización de peajes o de matizaciones, pero menos en soluciones propias de inteligencia artificial que lleguen a determinar una decisión y que incluso lleguen a motivarlas de una determinada forma Qué futuro puede tener eso Yo creo que en principio en lo que es administración puramente en las de tamaño medio y en el Estado de tamaño grande yo creo que eso va a ir con una cierta lentitud y probablemente permite ir madurando, pero efectivamente, al final la inteligencia artificial no son más que datos correlacionados que alguien ha tenido que seleccionar, que alguien ha tenido que identificar para que se adopte la la decisión o si ilumine adoptar la decisión correspondiente. Y evidentemente, todos los problemas de sesgos, todos los proyectos, todas esas cuestiones, evidentemente, van a serlo en cuanto se empiece a generalizar, va ser una cuestión jurídica muy compleja de sustancia, y que en las administraciones se está en qué medida los cuerpos burocráticos estamos preparados para dar una solución adecuada y rápida. Eso. Si no, no obstante, a pesar de que efectivamente, la automatización, como habéis puesto los 3, no está pensada fundamentalmente en esa auxiliar edad al funcionario, como comentaba externos, el problema de solución, mismo tecnológico en el que, como dicen algunos autores, el funcionario se convierta en un medio de lo que dice la máquina, no de manera irreflexiva. Bueno, ahí podría estar ese riesgo que efectivamente o digamos corregir a los tribunales y sería la técnica de buena administración de evitar en esta fase de la de la tecnología como un elemento auxiliar de fiscalizarla esa reserva de humanidad, lo cual en esa fiscalización entronca con lo que tú preguntabas de esa cautividad tecnológica, no la ponderación entre la cautividad tecnológica y el que no venga nadie a ofrecerme la herramienta. Pero no voy a hacer, es posible sobre eso, porque yo creo en la siguiente Mesa no van al tema. Teníamos 3 preguntas más, teníamos una allí otra aquí y otra. Hola, buenos días, señor Martínez, de la Universidad de Alicante. Yo lo primero darle la enhorabuena por la forma. La Mesa me ha parecido muy sugerente, muy interesante y quería hacerles una pregunta que no sé hasta qué punto va a tener una solución satisfactoria. La Unión Europea está impulsando los espacios de datos. En estos momentos, si hay un espacio de datos en el que parece que la Unión Europea ha pensado especialmente, que es el espacio de datos de contratación pública, desgajándolo del espacio de datos de administraciones y le quiere dar un valor sustancial porque sabe la importancia que tiene la contratación pública para la Unión Europea, para la competitividad, para nuestro producto interior bruto Qué sucede? Que que esta mesa es especialmente interesante para hacer esa pregunta, porque hay personas del sector público y también del sector privado, no, y os quería preguntar, porque al final, si no tenemos datos de calidad lo habéis comentado con acierto los 3, si no tenemos datos de calidad, el sistema de inteligencia artificial que se vaya a utilizar en la contratación pública no va a funcionar adecuadamente. Entonces, entendiendo que el propósito de la Unión Europea es generar un espacio de datos en contratación pública para poder tener datos de calidad, que esos datos de calidad sean, sean o no de verdad, va a implicar la participación conjunta de entidades del sector privado y entidades del sector público y muchas veces las del sector privado, entiendo que puedan tener recelos a qué parte es una hoja de inversión empresarial, vaya en esos datos conjuntos de datos que pongan a disposición del espacio de datos de contratación pública. Con esta premisa, me gustaría saber qué pensáis que sería interesante que hagan las administraciones para generar de verdad un espacio de datos, de contratación de calidad. Si se tendrían que dar algunos incentivos como se debería organizar ese espacio de datos en contratación, para que tenga datos de calidad, de dónde tomar esos datos para que los sistemas de inteligencia artificial puedan funcionar adecuadamente. Muchas gracias. Es bueno saber que en el tema de datos a nivel europeo principalmente la plataforma de contratación del sector público, bueno, en principio sabéis que la propia Ley de contratos se estableció lo de la gobernanza, de tal forma que cada 3 años tenemos que informar tanto las administraciones locales, las administraciones autonómicas como la Administración del Estado, un conjunto de datos, un conjunto de datos distinguiendo 2 tipos de datos, datos de carácter cuantitativo y datos de carácter cualitativo. Es de carácter cualitativo, pues van vinculados a informaciones, no estructuradas y no tienes que contestar sobre temas de corrupción, sobre temas al principio. Ese conjunto de datos bueno, podría ser susceptible de tratamiento, pero no son los que un principio para ser más objeto de tratamiento los que están siendo cada vez más objeto de tratamiento, y cada vez se está exigiendo de una forma más más insistente y una y una amplitud de campo muchísimo mayor son los datos, estructurados, tanto licite, es a través de la plataforma del Estado como licite. Es a nivel autonómico, en principio todos los datos ahora mismo, que se están remitiendo a la Unión Europea cada 3 años y ahora en una principios de 2024 tendremos que mandar todas las administraciones. Todos los datos de nuestra contratación del periodo trianual; 2021, de 2022 2023 se están focalizando mucho en 2 sentidos en el sentido de lo que es en la concurrencia, en las licitaciones, cuantos han participado de qué sitio, qué perfiles tienen? Si son pymes, son pymes, se detectan, y por otro lado se están focalizando en todo lo relativo a en la fase de ejecución, poco y en lo que se llama la contratación estratégica, en cuanto a numéricamente contratos de carácter medioambiental, contratos de carácter social o con cláusulas sociales, etcétera. La perspectiva es que desde la Unión Europea nos vayan exigiendo a nivel europeo más más datos, de momento, focalizados en esas fases. Pudiera ser que las directivas comunitarias buscan mucho, la neutralidad en la asignación de recursos públicos, luego se preocupa un poco en la fase de ejecución que queda a nivel nacional. Se regula muy poco a nivel de directiva comunitaria, salvo en lo que son las crisis contractuales, las relativas fundamentalmente a las modificaciones de contratos y a las condiciones especiales de ejecución. Entonces, yo no, en el panorama actual que veo, lo que veo es que a través de las de las políticas de la Comisión Europea nos van a ir ampliando, ampliando a todas las administraciones todo ese volumen de datos y con lo que van a alimentar en principio ese banco de datos. No sé en qué medida distinta esa dirección puede, pueden intervenir en este aspecto, pero si mis compañeros tienen más información al respecto. No estoy, estoy totalmente de acuerdo. Yo creo que los datos que vamos a poder tener mejor armonizados son datos que nos van a ayudar a obtener información sobre dependencia, sobre cuestiones de transparencia, sobre cuestiones de fraude. Esto se va a controlar mejor y se va a ir viendo cada vez con mucha más facilidad y más liquidez, pero lo que es la tarea del día a día en cuanto a la licitación y en cuanto a la ejecución o, simplemente con menor impacto, porque eso sí que no son datos exactamente ni fáciles de publicar ni fáciles de reunir, agrupar y convertir en algo útil para para nuestro día a día, pero en el otro aspecto, e incluso intendencia de gastos, etcétera. Yo creo que va a haber un salto bastante importante. Bueno, yo, a raíz de esta pregunta, me voy a permitir dar una respuesta que pido que se entienda desde mi condición de profesor de universidad y, por tanto, teórico, que no está al día a día de la práctica, porque quizás un poco controvertida, en el sentido de decir claro el 347 el 63, a dar un mandato muy claro, que favorece sus espacios de datos, al exigir que se publiquen en formatos abiertos. Se ha criticado, que se dice todo en abierto. Más vale eso a que peque de lo contrario, y en ese sentido nos podemos encontrar, o nos encontramos en la práctica, que esos datos o no se publican en abierto, se incumple el 347 el 63. O se publican mal en abierto, pero mal, por ejemplo, en el anuncio de licitación objeto. Es un documento estructurado lo que ponga en el pliego. Ya tenemos un problema, porque tenemos que ir al perder o valor estimado 3.000 millones de euros, y nadie te dice que eso está mal, o que el CIS del adjudicatario sea incorrecto. Claro, ahí tenemos una serie de problemas que que no afecta al al a los interesados en el procedimiento, en tanto en cuanto no les sitúa una situación de indefensión y, por tanto, como ya se ha dicho en algunas resoluciones, es como si nos equivocamos en el CPB, que ahí sí; pues estamos afectando a la libre competencia. No interesaba afectado y se anulara el pliego, como en alguna ocasión ha hecho el Tribunal de recursos de Madrid yo creo que de manera muy acertada, pero en el resto de casos no, y sin embargo estamos haciendo un daño sistémico a esto, potenciado ahora por el tema del de los espacios de datos de contratación. Entonces mi anticipada, opinión controvertida, simplemente era decir que yo creo que aquí más por una motivación positiva. Yo he entendido siempre a pensar que las soluciones, una motivación negativa en el sentido de las sanciones, sinceramente interadministrativas en este aspecto, al hilo de la protección de datos y quizá no con el modelo español, sino con el modelo italiano. Desde luego que la reflexión y aportaciones de nuestro compañero Alfonso son más prácticas también que en vía única, porque la motivación sancionador al final es la que siempre no ha llevado pero que tardemos en llegar a esa motivación, porque ahora mismo resulta muy complejo aportar esos datos de manera de manera clara siempre, con lo cual espero que la motivación continúe siendo positiva donante durante un tiempo habido otra pregunta. Aquí vamos a hacer las 2 últimas preguntas y ya hay. Bueno, primero darle las gracias por las, por las ponencias. Me ha encantado. Artificial y mi pregunta, cómo iba y cómo esta instalación implantar, o sea, qué características tienen que tener los programas de inteligente, vigencia, artificial, para poder implantar en la Administración, no se necesita un conjunto de datos masivos. Bueno, ahí perdemos masivos 2. Sesgados si no están sesgados luego modelos dentro anécdota, hablado de trazabilidad, le aplicabilidad, los modelos de caja negra tienen explica habilidad, es decir, se pueden extraer qué características , características dísticas estas han sido las más importantes es a la hora de extraer las conclusiones, pero sí datos de los que se parte no son de calidad, me da igual, la me da igual, la ha explicado de calidad. Por tanto Qué se necesitaría la inteligencia artificial inicial, modelos que se completamente auditables por la Administración? Claro, y esto entra, entra un poco en batalla intelectual de las empresas, es decir, si la Administración no tiene control completo de los modelos de inteligencia artificial inicial no van saber si están se están sesgados o no. Luego se utilizan estas ideas generativas, como las empresas de echarse con datos confidenciales, confidencialidad confidenciales, ya perder la confidencialidad completamente servido. Desde Estados Unidos le dice a Protección de datos distintas. Sistemas de inteligencia artificial también quiero hacer otra reflexión, no se ha centrado en que para hacer inteligencia artificial se necesitan conjuntos de datos masivos. Claro, eso solo es el aprendizaje automático. Hay mucho que no se están teniendo en cuenta, pero claro, ahora el boom de la artificial, generativa con estos modelos de los derechos que necesitan, conjuntos, de datos masivos, que no sabemos de dónde los han obtenido, actual; si no tienen propiedad intelectual no son capaces de este, son capaces de generar conclusiones a partir datos con los que han sido entrenados. Entonces creo que son una cosa, debería conocer y debería tener en cuenta a la hora de adjudicar contratos de inteligencia artificial y también les instaría a que hablasen con las universidades que son los investigando en inteligencia artificial. Muchas gracias de nuevo. Pues yo comienzo muchas gracias por la puerta. Tiene de nuevo que recojo el guante que ha adelantado, y espero poder contar con las universidades para poder continuar trabajando, inteligencia artificial. Desde luego, por eso es por lo que hemos empezado intentado compra de concepto, con proyecto pequeñitos, que desde luego a día de hoy garantizan esa trazabilidad, y lo que pretendemos, y es la eterna discusión a la que me refería en la ponencia, ese garantizar ese equilibrio entre esa trazabilidad, y entre que las empresas quieran trasladarnos un ojo, pues es muy complicado y dicho es lo más complicado que vamos la tarea más complicada vamos a llevar a cabo en nuestro proyecto. Por eso nosotros haremos. La prueba de concepto que han sido son con datos muy concretos, conecte entre muy concretos, extraer información de determinados documentos específicos, y no hemos avanzado tanto como para tener esos problemas con con otro dato, pero desde luego ese problema llegarán y, por supuesto, tenemos en cuenta. Bueno, yo creo que ha tocado el problema de fondo, no sé exactamente cómo, cómo lo ha descrito, hay un, hay un, hay que buscar ahí un equilibrio entre datos masivos y entrenados además con con unas fuentes totalmente desconocidas y los datos que tenemos que manejar, que no podemos publicar hacia el exterior. Las herramientas, de todas formas, son muy limitadas y van a entender a la concentración, no a la desconcentración, con lo cual vamos a poder jugar con muy pocas herramientas, porque realmente es una tecnología que está al alcance de muy pocas empresas en el mundo, sobre todo las las tecnologías genuinas. Empieza a haber, como seguro que conocéis también herramientas que ya con tecnologías muy avanzadas el software libre en la que publica la propia herramienta, con lo cual directamente es instalables, servidores separados. Pero, claro, se pierde todo este potencial tan impresionante nos ha impresionado tanto desde principio del 2023 cuando hemos empezado a encontrar Pues haciendo cosas increíbles ni imaginables, etcétera, etcétera. Esto realmente cuando lo lo aisladas y lo luego lo dejas el servidores separados etcétera pues pierde Pierde muchísima potencia y también exige una potencia proceso. Nada. Trivial bien, este es 1 de los retos importantes, pero no solo para las administraciones, también para las empresas. Son ese tipo de herramientas. Hay que manejarlas, sabiendo que esta limitación y donde podrán aplicar en determinadas áreas y en otras no sin duda. Muchas veces en las empresas de desarrollo hablo de informática se utilizan estas herramientas y no está. No saben que están poniendo a disposición de esas empresas el código privado de la propia empresa con la que lo están utilizando. Entonces también es un gran reto para para las empresas. De hecho yo conozco algunas empresas que limitan el uso de estas herramientas para evitar esa pérdida de. Bueno, ese no es algo que tienen las propias las propias empresas, absolutamente muchas gracias. Hoy además está ocurriendo algo también bastante interesante. Hay determinadas herramientas, por ejemplo, herramientas derecha que intentan resolver un problema concreto, y ahí dan la información para que además sea una información mucho más específica, menos sesgada, más controlada y que pueda dar un nivel de acierto. Yo he estado gracias con alguna herramienta de ese tipo y realmente los resultados que da son exactamente iguales que los resultados, que traigan una herramienta totalmente abierta y generalista, con lo cual el aprendizaje que está teniendo la herramienta generalista, llegase, la de Google o la de la charca, etcétera, es muy superior porque está evolucionando todos los días, con lo cual los resultados que vas a poder obtener de una herramienta cerrada con un conjunto de datos limitado es bastante más limitado que el de las herramientas abiertas, y ese va a ser el dilema. Continúo. Pues yo, muy brevemente lo que has comentado me parece muy interesante. Desde nuestra experiencia en un proceso real de transformación te puedo decir que lo sabéis, que para la, para la, para que se puede automatizar, hay que tener un control o una auditoría y publicar en la sede electrónica las especificaciones técnicas que se ha seguido en la automatización y, en su caso, la auditoría de sistema; en la práctica, para encontrar cuando hemos abordado el proceso de automatización auditoras, y nosotros manejamos un presupuesto más o menos alto y nos estamos con las consultoras más grandes del país no ha sido fácil encontrar alguien que no se audite el sistema, para verificar que nosotros realmente la automatización, lo único que buscamos es mucho más complejo, lo que tú planteas la automatización. Nosotros lo único que decimos es que el sistema hace lo que lo que tiene que hacer no hay mucha déficit, y aun así nos ha resultado muy complejo y casi como favor nos van a hacer una auditoría con nuestros. Queremos tener un respaldo de que eso, que estaba automatizado, tenía un control de trazabilidad y de totalidad. Cuando abordemos un proceso de proceso de inteligencia artificial, cuando terminemos el proceso de automatización necesariamente y recogemos el guante, tendremos que tener una cierta consultoría a ver qué universo de datos. Para nosotros es más, entre comillas, más sencillo, porque partimos de un modelado de datos que es el nuestro, y de un conjunto de datos estructurados, que son los que tanto alimentos tu cuando haces la tramitación como recibes a través de documentos estructurados, etcétera, y entonces si será un universo más limitado, no iremos fuera a buscar datos para utilizar técnicas de inteligencia en el ámbito limitado, que la vamos a utilizar. Efectivamente, es un desafío, pero quiero ir un poco compartir con vosotros, algo que a nosotros nos sorprendió cuando fuimos a buscar a alguien pagándole, evidentemente, que no se auditara el sistema. No nos ha resultado hablando con las grandes contra las grandes, y no nos ha resultado sencillo, o sea que en cierto modo hay una realidad que es la realidad, un poco de titular de periódico la realidad y luego en la realidad práctica en el mercado real, donde vas a contratar. Realmente, a veces, esos perfiles que tú te imaginas que no te va a resultar muy difícil encontrarnos, se encuentran. Teníamos una pregunta por aquí. Gracias, no, ni me preguntan, venía un poco al hilo de la primera intervención de desafiaban, no cuando decían. Cuando se preguntaba no comparte con nosotros la pregunta de si podrá la inteligencia artificial ocuparse íntegramente de la licitación pública y nos han mantenido en vilo? No durante unos minutos se pensábamos que no se dar una respuesta y después no ha hecho una finta, no, y nos ha dicho que no era esa. La pregunta es pertinente, pero a mí se me ha quedado con la idea de decir. Bueno, pues a lo mejor la pregunta que nos tenemos que hacer es si es la heredera inteligencia artificial. La contratación pública se debe tramitar de la misma manera que hemos venido tramitando la contratación pública en las últimas décadas. No? Es decir, al margen de que efectivamente a día de hoy lo que nosotros tenemos que preguntar es cómo podemos automatizar, gracias al uso de inteligencia artificial, determinados trámites del procedimiento de licitación y ejecución, etcétera. No, y ahí coincido con la respuesta que nos has dado, pero yo creo que nos tendríamos que plantear, dar un paso más allá y decir bueno, es que a lo mejor el proceso de toma de decisiones en el siglo XXI no es el mismo que había en el siglo XIX y, por lo tanto, la inteligencia artificial nos debe llevar a plantearnos. Es un cambio en el paradigma de la toma de decisiones de las administraciones públicas. Bueno, sí ha habido interpelación. Totalmente de acuerdo con ello. Creo es que sobre todo el riesgo de esta pregunta era que continuar por esa misma vía aquí en este foro, donde está lleno de directores de contratación, clientes míos o potenciales clientes míos era un problema bastante bastante importante así pero no no bueno dicha echará la broma creo que la pregunta o la reflexión es buena, porque por lo menos existe y creo que está en nuestras mentes, pero honestamente creo que el enfoque real y de aquí a muchos años es el otro enfoque de una herramienta a nuestro servicio. No, no creo que acabemos viendo ese escenario en muchísimo tiempo o no sé si lo acabaremos viendo algún día, incluso también por regulación, y por lo que estamos diciendo, por ejemplo ahora, o sea, algo muy sentido que acaba de surgir y que ha surgido y que parece de enorme complejidad la confidencialidad, simplemente la competencia a día de la información con la que vamos a trabajar, pues evidentemente, esto puesto más herramientas de uso masivo o de herramientas controladas, además por otros, o por por por máquinas y algoritmos, que es imposible que controlemos porque no los controlan, ni siquiera las mismas empresas que los han creado, pues parece, parece difícil, así que más o menos, poco tranquilos hay en ese sentido, sí si realmente debemos estar intranquilos o o no. De todas formas, es un poco la reflexión provocativa del mensaje, es decir, algo más, y estoy de acuerdo o no, y yo, principio. Aparte de eso, es comprensible que todas estas herramientas parece que no tienen mucho sentido, digitalizar, ineficiencias o proceder a multiplicar trámites, que a veces, cuando es absurdo, ya no tiene mucho sentido, porque, claro, al final hay determinadas cosas que pierden. El sentido a medida que la tecnología yo en cierto modo una de las cosas que más en la que más abogaría, no no, no solo en la solución que podemos adoptar cada administración, sino un poco en el suspenso que tenemos las administraciones en interoperabilidad, en intercambio de datos, en intentar buscar soluciones un poco comunes. Porque, bueno, si antes decía que las soluciones masivas o el conjunto masivo de datos y lo que alimenta el tomar decisiones más acertadas, pues ir parcelado decisiones tecnológicas, parece que bueno, que eso no va a favorecer un cambio de paradigma, yo creo que con una buena voluntad colaborativa, entre las diferentes administraciones, una verdadera interoperabilidad entre sistemas, un verdadero intercambio, entiendo que debería darse una vuelta a la al régimen tradicional de contratación. Está pensado por un aparato burocrático. Al final el esquema es la ley, la Ley de contratos del texto refundido del año. Bueno, cambio de estructura con la Ley de Contratos del Sector Público en 2007, pero nos movemos en la misma Ley de contratos del 95. Realmente, en esencia, más o menos no hay tanto tanto cambio. Entonces, es verdad que en la forma de trabajar el paradigma debería ser otro, sobre todo si se utilizan todas esas técnicas, pero todo por lo que tengo me temo, porque cuando hemos nuestros pasado la automatización sería absurdo. Esto realmente está haciendo con sello electrónico de una máquina que se había tramitado y podríamos prescindir. Lo siento. Tenemos aquí la última pregunta voy a hacer de portavoz, porque la plantean por Internet muy rápida para terminar, que tenemos el café ya esperando, afortunadamente, ciertas cosas que hay que hacerlas presencialmente, no compartir este rato ahí con el sol murciano que nos ha venido a recibir. Dice así. La pérdida de interés de las empresas desarrolladoras se podría solventar con fórmulas intermedias a través de convenios administrativos, de colaboración de la Ley 42.015 en vez de recurrir a contratos de prestación de servicios para conseguirlos, de sobre resultados productos finales, y en este caso se preguntan cómo se gestionaría el procedimiento de concurrencia para estas colaboraciones. La pregunta es endiablada. Quizá más que un servicio es una colaboración con transferencia sujeto a IVA o no, dependiendo del coste de ese desarrollo. Quizá sería una aportación, es en común el proyecto, como digo, yo creo que es una sugerencia que nos obliga a cambiar el chip de la colaboración interadministrativa. En aquella Alfonso antes hacía referencia. Yo lo siento, pero no estoy de acuerdo con el convenio de colaboración en este caso, porque entiendo que estamos recibiendo prestaciones, líneas, un intercambio en precio y una prestación, con lo cual, el convenio de colaboración, de acuerdo con la Ley 40.015, quedaría excluida, esa figura. Pero a lo mejor mis compañeros me enseñaron el BOE algo nuevo. Luego creo que es una pregunta más para los profesionales de la contratación, una pregunta más de oficio de la profesión, así que yo o aquí puedo puedo decir, parece como parece más bien la prestación propia típica de un contrato. Además, en los procesos complejos normalmente los desarrollos son casi a medida iban a tener una, es decir, el convenio de colaboración, entendido como un interno, la consecución de un fin común y no di un interés de prestación y contraprestación, pues a lo mejor no, no, parece que no es verdad que los convenios de colaboración, 1 de los rasgos que les caracteriza, a diferencia de los contratos, es que las propiedades de los trabajos son compartidas, pero bueno, no porque tenga esa característica, el convenio de colaboración, más a convertir un negocio jurídico en un convenio cuando es propio de un contrato. En principio, esa solución no parece en estos momentos, tiene demasiado encaje, por lo menos esa, a mi juicio, vamos y a bote pronto tampoco es una y además que. Bueno, al final yo creo que el problema, el problema en todos los, aunque la tecnología avanza mucho detrás de la tecnología, hay que cambiar y hay personas que son las que desarrollan toda esa tecnología y ese es un elemento verdaderamente crítico en los procesos de transformación, los equipos de implantación de desarrollo, etcétera, hacer un convenio o con entidades sin ánimo de lucro que dispongan de esos profesionales. Bueno, el mercado al final, es más, nos cuesta encontrar buenos profesionales, pagándoles a través de ánimo de lucro, y todo así que con esa figura tan complicado, no sé si en el mercado, yo creo el mercado, los profesionales, buenos profesionales, muy complicado. Es una pregunta bastante opina, sería una maravilla, pero creo que muy automóvil. Bueno, pues vamos a dar pasado café bueno, no sin antes, digamos, conclusiones de la Mesa de esta esta primera mesa de esta mañana, esperamos, no que, bueno, nos han dado luz lo los 3 ponentes esta mañana para que en estas fases de preparación, selección y adjudicación de los contratos. Pues bueno, ver que sí que es posible que exista una ayuda ante un robot ayudante que nos permita o nos avise si nuestra condición especial de ejecución de carácter social o medioambiental obligatoria es adecuada o no es adecuada si se nos ha olvidado poner o no los criterios de la oferta anormalmente baja, si el criterio de adjudicación ha tenido históricamente algún problema de licitud, en criterio de algún tribunal, el cálculo del presupuesto base de licitación, que nos hagan el el, la programación de contratos del artículo 28, 4 directamente que solamente tengamos que supervisarla no redactarla que el de deudor se ha se ha comprobado automáticamente por una máquina. Son necesarias las aperturas de sobres. Bueno, pues nos han dejado una serie de elementos que nos trazan un poco el futuro de lo que puede suceder. Yo dejo una pregunta en el aire así a modo conclusivo, no, por supuesto, vamos a pasar por la automatización. Pregunta sería y se ha puesto de manifiesto no esa. Cuál es la diferencia en que esta automatización sea de inteligencia artificial o no, bueno, pues el procesamiento del lenguaje natural, de los documentos y el coste no va a ser un coste de entrada y de mantenimiento más elevado, que tendrá que hacerse por inteligencia artificial, que se podrá hacer por una automatización no determinista, bueno, pues ahí queda, quedan las dudas, pero el caso es que se podrá hacer y que nos ayudará en el día a día, o muchísimas gracias al ponente por su presencia, muchísimas gracias al público por su atención, y nos vamos a hacerlo.

Propietarios

UMtv (Universidad de Murcia)

Publicadores

Alfonso Sanchez Garcia
Julian Valero Torrijos

Comentarios

Nuevo comentario

Serie: Licitación y ejecución de los contratos públicos: el impacto de la Inteligencia Artificial (+información)

Descripción

Seminario organizado en el marco del Proyecto de investigación Transición digital de las Administraciones públicas e inteligencia artificial: claves, riesgos y propuestas de política regulatoria (DIGITAPIA). Ref.: TED2021-132191B-I00/ Financiado por MCIN/AEI/10.13039/501100011033. Patrocina: Digiltea-Grupo Hozono Global. Colaboran: iderTec-Grupo de investigación sobre Innnovación, Derecho y Tecnología. Cátedra Fundación Integra sobre Identidad y Derechos Digitales

Relaccionados