Syllabus query



Curs Acadèmic: 2021/22

8025 - Màster Universitari en Sistemes Intel·ligents Interactius

31645 - Aprenentatge Automàtic


Informació de la Guia Docent

Curs acadèmic:
2021/22
Centre acadèmic:
802 - Centre Màsters del Departament de Tecnologies de la Informació i les Comunicacions
Estudi:
8025 - Màster Universitari en Sistemes Intel·ligents Interactius
Assignatura:
31645 - Aprenentatge Automàtic
Crèdits:
5.0
Curs:
1
Idiomes de docència:
Teoria: Grup 1: Anglès
Professorat:
Per Anders Jonsson , Vicente Gomez Cerda
Periode d'Impartició:
Primer trimestre
Horari:

Presentació

Es tracta d’un curs d’iniciació a l’aprenentatge automàtic, que cobreix els principis fonamentals de l’aprenentatge automàtic, inclòs l’aprenentatge supervisat i no supervisat, i l'enfoc Bayesià. L’objectiu del curs no és només aprendre a aplicar algoritmes d’aprenentatge automàtic comuns, sinó proporcionar als estudiants els coneixements suficients per dur a terme investigacions en aprenentatge automàtic o en un camp relacionat. Per aquest motiu, el curs descriu les formulacions matemàtiques bàsiques que fonamenten l’aprenentatge automàtic.

Competències associades

Competències bàsiques:

• Que els alumnes tinguin i comprenguin coneixements que proporcionin una base o una oportunitat per ser originals en el desenvolupament i/o l'aplicació d’idees, sovint en un context de recerca.
• Que els alumnes siguin capaços d’integrar coneixements i afrontar la complexitat de formular judicis a partir d’informacions que, sent incompletes o limitades, incloguin reflexions sobre les responsabilitats ètiques i socials vinculades a l’aplicació dels seus coneixements i judicis.
• Que els estudiants posseeixin les habilitats d’aprenentatge que els permetin continuar estudiant d’una manera autodirigida o autònoma.

Competències transversals:

• Aplicar amb flexibilitat i creativitat els coneixements adquirits i adaptar-los a nous contextos i situacions.

Competències específiques:

• Resoldre problemes matemàtics relacionats amb l’aprenentatge automàtic i aplicar els coneixements a diferents formes d’aprenentatge (supervisat, no supervisat, enfocament Bayesià).
• Capacitat per comunicar-se eficaçment utilitzant el vocabulari tècnic del camp en anglès.
• Utilitzar tècniques de càlcul i àlgebra lineal aplicades a l'aprenentatge automàtic mitjançant paquets de software existents.
• Aplicar l'aprenentatge automàtic a problemes realistes per aprendre els models adequats.
• Identificar problemes d'aprenentatge automàtic i seleccionar l'algoritme adequat per resoldre'ls.

Resultats de l'aprenentatge

• Comprendre els principis matemàtics que constitueixen la base de l’aprenentatge automàtic.
• Resoldre exercicis matemàtics bàsics relacionats amb la teoria de l’aprenentatge automàtic.
• Reconèixer el tipus de problema d’aprenentatge i seleccionar els algoritmes adequats.
• Implementar algoritmes d’aprenentatge automàtic en un llenguatge de programació comú i provar-los en problemes d’aprenentatge reals.
• Avaluar i interpretar el resultat de l'aprenentatge sobre un problema determinat i comparar el resultat de diferents algoritmes.
• Seleccionar els valors adequats dels hiperparàmetres mitjançant la validació.

Prerequisits

El curs pressuposa els coneixements bàsics d’àlgebra lineal, càlcul i teoria de la probabilitat. S'espera que l'alumne hagi realitzat els cursos següents (o similars):

• Àlgebra lineal
• Càlcul
• Teoria de la probabilitat / estadística

Continguts

Sessió 1: Introducció a l'aprenentatge automàtic
Sessió 2: Models lineals
Sessió 3: El compromís de la variació i biaix (sessió pràctica núm. 1)
Sessió 4: Optimització i descens de gradient
Sessió 5: Algoritmes comuns per a l'aprenentatge supervisat (sessió pràctica núm. 2)
Sessió 6: Aprenentatge no supervisat
Sessió 7: Aprenentatge profund i aplicacions I (sessió pràctica núm. 3)
Sessió 8: Aprenentatge profund i aplicacions II (sessió pràctica núm. 4)
Sessió 9: Aprenentatge i inferència Bayesiana
Sessió 10: Introducció als models gràfics probabilístics

Metodologia docent

En cada sessió, s’introdueixen i discuteixen diversos conceptes teòrics. A continuació, es dona als alumnes l'oportunitat de resoldre exercicis relacionats amb aquests conceptes, exercicis que s'han de realitzar fora de classe i lliurar posteriorment. També hi haurà sessions pràctiques en què es presentaran als alumnes problemes realistes d’aprenentatge automàtic per als quals hauran d’implementar i provar solucions.

Avaluació

L’avaluació consistirà en un conjunt de tasques i exercicis de programació, i un examen final. La nota del curs es calcularà de la manera següent:

Nota final = 0.2 * Exercicis + 0.4 * Laboratoris + 0.4 * Examen,

en què Exercicis i Laboratoris són les mitjanes dels exercicis de programació i les pràctiques, respectivament, i Examen és la nota de l'examen final.

Per aprovar el curs, els estudiants han de lliurar tots els exercicis i totes les pràctiques de laboratori i cal obtenir una nota de 5 en les tres parts.

Bibliografia i recursos d'informació

  • M. Hardt and B. Recht: Patterns, Predictions, and Actions. A story about machine learning.
  • S. Shalev-Shwartz and S. Ben-David: Understanding Machine Learning: From Theory to Algorithms.
  • C. Bishop: Pattern Recognition and Machine Learning.
  • D. MacKay: Information Theory, Inference, and Learning Algorithms.


Academic Year/course: 2021/22

8025 - Master in Intelligent Interactive Systems

31645 - Machine Learning


Teaching Guide Information

Academic Course:
2021/22
Academic Center:
802 - Masters Centre of the Department of Information and Communications Technologies
Study:
8025 - Master in Intelligent Interactive Systems
Subject:
31645 - Machine Learning
Credits:
5.0
Course:
1
Teaching languages:
Theory: Group 1: English
Teachers:
Per Anders Jonsson , Vicente Gomez Cerda
Teaching Period:
First Quarter
Schedule:

Presentation

This is an introductory course in machine learning, covering the fundamental principles of machine learning including supervised and unsupervised learning, and the Bayesian perspective. The course objective is not only to learn how to apply common machine learning algorithms, but to provide students with sufficient knowledge to carry out research in machine learning or a related field. For this reason, the course describes the basic mathematical formulations that underlie machine learning.

Associated skills

Basic Competences:

  • That students have and understand knowledge that provides a basis or opportunity to be original in the development and/or application of ideas, often in a research context.
  • That students are able to integrate knowledge and face the complexity of making judgments from information that, being incomplete or limited, includes reflections on the social and ethical responsibilities linked to the application of its
    knowledge and judgments.
  • That students possess the learning skills that allow them to continue studying in a way that will be largely self-directed or autonomous.

Transversal Competences

  • Applying with flexibility and creativity the acquired knowledge and adapting it to new contexts and situations.

Specific Competences

  • Solve mathematical problems related to machine learning and apply the knowledge to different forms of learning (supervised, unsupervised, Bayesian machine learning).
  • Ability to communicate effectively using the technical vocabulary of the field in English.
  • Use techniques of calculus and linear algebra applied to machine learning by means of existing software packages.
  • Apply machine learning to realistic problems in order to learn appropriate models.
  • Identify machine learning problems and select the appropriate algorithm for solving them.

Learning outcomes

  • Understand the mathematical principles that form the basis of machine learning.
  • Solve basic mathematical exercises related to machine learning theory.
  • Recognize the type of learning problem and select appropriate algorithms.
  • Implement machine learning algorithms in a common programming language and test them on actual learning problems.
  • Evaluate and interpret the outcome of learning on a given problem and compare the outcome for different algorithms.
  • Select appropriate values of hyper-parameters through validation.

Prerequisites

In addition to programming skills, the course assumes basic knowledge of linear algebra, calculus and probability theory. The student is expected to have taken the following (or similar) courses:

  • Linear Algebra
  • Calculus
  • Probability theory/statistics

Contents

Lecture 1: Introduction to machine learning
Lecture 2: Linear models
Lecture 3: The bias-variance trade-off and over-fitting (Practical session #1)
Lecture 4: Optimization and gradient descent
Lecture 5: Common algorithms for supervised learning (Practical session #2)
Lecture 6: Unsupervised learning
Lecture 7: Deep Learning and Applications I (Practical session #3)
Lecture 8: Deep Learning and Applications II (Practical session #4)
Lecture 9: Bayesian learning and inference
Lecture 10: Introduction to probabilistic graphical models

Teaching Methods

In each session, several theoretical concepts are introduced and discussed. The students are then given the opportunity to solve exercises related to these concepts, exercises that have to be completed outside of class and handed in at a later date. There will also be practical sessions in which students are presented with realistic machine learning problems, for which they have to implement and test solutions.

Evaluation

The evaluation will consist of a set of homework and programming exercises, and a final exam. The grade of the course will be calculated as follows:

Final Grade = 0.2 * Homework + 0.4 * Labs + 0.4 * Exam,
 

where Homework and Labs are the averages over the homework and programming exercises, respectively, and Exam is the grade of the final exam.

To pass the course, the students need to hand in all homeworks and all labs and a minimum grade of 5 is required in the three parts.

Bibliography and information resources

  • M. Hardt and B. Recht: Patterns, Predictions, and Actions. A story about machine learning
  • S. Shalev-Shwartz and S. Ben-David: Understanding Machine Learning: From Theory to Algorithms.
  • C. Bishop: Pattern Recognition and Machine Learning.
  • D. MacKay: Information Theory, Inference, and Learning Algorithms.


Curso Académico: 2021/22

8025 - Máster Universitario en Sistemas Inteligentes Interactivos

31645 - Aprendizaje Automático


Información de la Guía Docente

Curso Académico:
2021/22
Centro académico:
802 - Centro Másteres del Departamento de Tecnologías de la Información y las Comunicaciones
Estudio:
8025 - Máster Universitario en Sistemas Inteligentes Interactivos
Asignatura:
31645 - Aprendizaje Automático
Créditos:
5.0
Curso:
1
Idiomas de docencia:
Teoría: Grupo 1: Inglés
Profesorado:
Per Anders Jonsson , Vicente Gomez Cerda
Periodo de Impartición:
Primer trimestre
Horario:

Presentación

Este es un curso de introducción al aprendizaje automático, que cubre los principios fundamentales del aprendizaje automático, incluido el aprendizaje supervisado y no supervisado y la inferencia Bayesiana. El objetivo del curso no es solo aprender a aplicar algoritmos comunes de aprendizaje automático, sino proporcionar a los estudiantes el conocimiento suficiente para realizar investigaciones en aprendizaje automático o un campo relacionado. Por esta razón, el curso describe las formulaciones matemáticas básicas que subyacen al aprendizaje automático.

Competencias asociadas

Competencias básicas:

• Que los alumnos tengan y comprendan conocimientos que les proporcionen una base o una oportunidad de ser originales en el desarrollo y/o la aplicación de ideas, a menudo en un contexto de investigación.
• Que los alumnos sean capaces de integrar conocimientos y afrontar la complejidad de formular juicios a partir de informaciones que, siendo incompletas o limitadas, incluyan reflexiones sobre las responsabilidades éticas y sociales vinculadas a la aplicación de sus conocimientos y juicios.
• Que los estudiantes posean las habilidades de aprendizaje que les permitan seguir estudiando de una manera autodirigida o autónoma.

Competencias transversales:

• Aplicar con flexibilidad y creatividad los conocimientos adquiridos y adaptarlos a nuevos contextos y situaciones.

Competencias específicas:

• Resolver problemas matemáticos relacionados con el aprendizaje automático y aplicar los conocimientos a diferentes formas de aprendizaje (supervisado, no supervisado, y enfoque Bayesiano).
• Capacidad para comunicarse eficazmente utilizando el vocabulario técnico del campo en inglés.
• Utilizar técnicas de cálculo y álgebra lineal aplicadas al aprendizaje automático mediante paquetes de software existentes.
• Aplicar el aprendizaje automático a problemas reales para aprender los modelos adecuados.
• Identificar problemas de aprendizaje automático y seleccionar el algoritmo adecuado para resolverlos.

Resultados del aprendizaje

• Comprender los principios matemáticos que constituyen la base del aprendizaje automático.
• Resolver ejercicios matemáticos básicos relacionados con la teoría del aprendizaje automático.
• Reconocer el tipo de problema de aprendizaje y seleccionar los algoritmos adecuados.
• Implementar algoritmos de aprendizaje automático en un lenguaje de programación común y probarlos en problemas de aprendizaje reales.
• Evaluar e interpretar el resultado del aprendizaje sobre un problema determinado y comparar el resultado de diferentes algoritmos.
• Seleccionar los valores adecuados de los hiperparámetros mediante la validación.

Prerrequisitos

El curso presupone los conocimientos básicos de álgebra lineal, cálculo y teoría de la probabilidad. Se espera que el alumno haya realizado los cursos siguientes (o similares):
• Álgebra lineal
• Cálculo
• Teoría de la probabilidad / estadística

Contenidos

Sesión 1: Introducción al aprendizaje automático
Sesión 2: Modelos lineales
Sesión 3: La compensación de sesgo-varianza (Sesión práctica # 1)
Sesión 4: Optimización y descenso de gradientes
Sesión 5: Algoritmos comunes para el aprendizaje supervisado (Sesión práctica # 2)
Sesión 6: Aprendizaje no supervisado
Sesión 7: Aprendizaje profundo y aplicaciones I (Sesión práctica # 3)
Sesión 8: Aprendizaje profundo y aplicaciones II (Sesión práctica # 4)
Sesión 9: Aprendizaje e inferencia Bayesianos
Sesión 10: Introducción a los modelos gráficos probabilísticos

Metodología docente

En cada sesión, se introducen y se discuten varios conceptos teóricos. A continuación, se da a los alumnos la oportunidad de resolver ejercicios relacionados con estos conceptos, ejercicios que tienen que realizarse fuera de clase y entregar posteriormente. También habrá sesiones prácticas en que se presentarán a los alumnos problemas reales de aprendizaje automático para los que tendrán que implementar y probar soluciones.

Evaluación

La evaluación consistirá en un conjunto de tareas y ejercicios de programación, y un examen final. La nota del curso se calculará de la siguiente manera:

Nota final = 0.2 * Ejercicios + 0.4 * Laboratorios + 0.4 * Examen,

en que Ejercicios y Laboratorios son las medias de los ejercicios de programación y las prácticas, respectivamente, y Examen es la nota del examen final.

Para aprobar el curso, los estudiantes tienen que entregar todos los ejercicios y todas las prácticas de laboratorio y hay que obtener una nota de 5 en las tres partes.

Bibliografía y recursos de información

  • M. Hardt and B. Recht: Patterns, Predictions, and Actions. A story about machine learning
  • S. Shalev-Shwartz and S. Ben-David: Understanding Machine Learning: From Theory to Algorithms.
  • C. Bishop: Pattern Recognition and Machine Learning.
  • D. MacKay: Information Theory, Inference, and Learning Algorithms.