Esci dai Frame

	Web Mining e Retrieval (a.a. 2021/22) Secondo Semestre
Elenco dei File nel deposito
Sommario Contenuti 1.Novita' 2.Programma del Corso 3.Testi di Riferimento 4.Link Utili 5.Diapositive delle lezioni 6.Progetti ed Esercizi Proposti
Novita' Date d'esame degli Appelli della Sessione Straordinaria di Settembre . Appello III: Giovedi' 8 Settembre 2022, h. 15:00, Aula da definire. Appello IV: Mercoledi' 21 Settembre 2022, h. 15:00, Aula da definire. Gli studenti sono pregati di procedere alla registrazione all'esame tramite DELPHI. Risultati Finali Seconda Prova Finale del 15 Luglio 2022. Gli studenti potranno discutere il compito anche su piattaforma Teams, a partire dal giorno Martedì 26 Luglio alle ore 14:00, inviando una mail al docente per la prenotazione. E' possibile, nella mail: (1) confermare la accettazione del voto, o (2) richiedere un orale di approfondimento per il miglioramento dello stesso. REMIND: Il Secondo Test Finale previsto il giorno Venerdi' 15 Luglio 2022 si terra' in Aula 13 a partire dalle ore 10:00. Risultati Finali Prove di Esonero (Secondo Esonero del 16 Giugno 2022) Risultati Finali Prima Prova Finale (Appello del 22 Giugno 2022) Gli studenti partecipanti alle due prove d'esame sono invitati, attraverso il canale MS Teams del Team del Corso dedicato alla propria prova, a comunicare la accettazione esplicita del voto proposto. Solo coloro che avranno proceduto a tale conferma potranno contare sulla verbalizzazione dell'esame. Si invitano gli studenti che vogliono vedere l'esito del Test o richiedere una prova orale per l'arrotondamento del voto a contattare il docente via email. Verranno pubblicati a breve i progetti proposti per gli studenti che derivano dal Corso 9 CFU. Date d'esame Appelli della Sessione Estiva. Test Finale 1: Mercoledi' 22 Giugno 2022, h. 11:30, Aula 13. Test Finale 2: Venerdi' 15 Luglio 2022, h. 9:30, Aula 13 Risultati del Primo Esonero del Giovedi' 28 Aprile 2022: nuova versione completata di uno studente in più. La LEZIONE di oggi 30 Maggio 2022 si terra' regolarmente alle 14:00 ma in forma esclusivamente Telematica sul canale MS Teams del Corso. A CAUSA di un problema di salute, la lezione di Mercoledi' 25 Magio 2022 prevista per le 9:30 si terra' in forma esclusivamente Telematica sul canale MS Teams del Corso. A CAUSA di un CONCOMITANTE CONSIGLIO di DIPARTIMENTO, la lezione prevista per le 11:30 di Giovedi' 21 Aprile 2022, e' ANNULLATA e non SI TERRA'. Il Corso continuera' le sue lezioni regolarmente MERCOLEDI' 27 Aprile. Il Test in Itinere si terra' all'interno del normale orario delle lezioni, quindi in Aula 13 alle ore 11:30, Giovedi' 28 Aprile 2022. Si prega di comunicare eventuali problemi CRITICI che impediscano la partecipazione in presenza al docente tramite email. La prova richiedera' l'uso di MS Teams, i presenza, quindi gli studenti sono invitati a portare con se telfonino, tablet o PC, utile per l'accesso e le risposte ai FORM della prima parte dell'esame. La domanda aperta sarà invece scritta (a mano) in aula. Gli studenti sono pregati di procedere alla registrazione all'esame tramite DELPHI. The first Mid Term Test will be held in Room 13, on Thursday April 28, 2022, at 11:30.. The written test will require presence in Room 13: potential critical problems to fit this requirement should be communicated as soon as possible to the COurse responsible by mail. As MS Teams will be used, students are invited to join the test with mobile phone, PC or tablet available: they are needed to fill the MS forms required by the first part of the test, involving a set of closed answer questions. The second part of the test only involve a hand written answer to an open question. Students should register to the test using the DELPHI portal. ESECIZI di preparazione al Test in Itinere PROPOSTI: Decision Trees and Rocchio ANNUNCIO: Il Corso avra' inizio a partire dal 7 Marzo 2022, secondo il seguente orario: LUNEDI', h. 14:00-16:00 (Aula 19 Edifici Aule Macroarea di Scienze) MERCOLEDI', h. 9:30-11:30 (Aula 13 Edifici Aule Macroarea di Scienze) GIOVEDI'', h. 11:30-13:30 (Aula 13 Edifici Aule Macroarea di Scienze) The teams of the course under MS Teams is: "BASILI-8066922-WEB_MINING_AND_RETRIEVAL_1". Please check your membership on MS Teams. The course will start on March 7 according to the following: Course TIMETABLE: LUNEDI', h. 14:00-16:00 (Aula 19 Edifici Aule Macroarea di Scienze) MERCOLEDI', h. 9:30-11:30 (Aula 13 Edifici Aule Macroarea di Scienze) GIOVEDI'', h. 11:30-13:30 (Aula 13 Edifici Aule Macroarea di Scienze) Gli studenti che intendono seguire il Corso sono pregati di registrarsi ad esso, accedendo al sito Delphi. Le diapositive delle lezioni saranno pubblicate durante il ciclo delle lezioni su queste pagine. Il Corso insiste sulle ricerche ed i progetti innovativi del Semantics Analytics Group (SAG), che si occupa di Machine Learning e Natural Language Processing nella progettazione ed ingegnerizzazione di Sistemi Software Avanzati di Intelligenza Artificiale, e nelle loro applicazioni predittive nella interpretazione e ricerca di documenti, nella sicurezza in rete, nella analisi dei Social Network e nei processi di Digital Transformation. Sono attive alcune sperimentazioni e progetti presso il SAG Laboratory for Semantics Analytics, da cui sono emanate annualmente alcune Borse di Studio e Premi di Laurea. Sara' possibile discutere in dettaglio le diverse Tesi con il coordinatore di SAG, prof. Roberto BASILI, o con il responsabile tecnico del Laboratorio, prof. Danilo CROCE. L'orario di ricevimento, diverso da quello dei Corsi, e' da concordare con i docenti via e-mail. RECENTI PROPOSTE di TESI di LAUREA.
Programma Segue il programma preliminare del Corso che sara' messo a punto ed finalizzato al termine delle lezioni del Corso. Section I: Machine Learning and Deep Learning. Deep Learning and Artificial Intelligence. Supervised methods. Probabilistic and Generative Methods. Unsupervised Learning. Clustering. Semantic Similarity metrics. Agglomerative clustering methods. K-mean. Hidden Markov Models. Statistical Learning Theory: PAC learnability. Kernel-based Learning. Polynomial and Radial Basis Function Kernels. String and Tree kernels. Semantic kernels. Neural Modeling: Perceptron, Multilayer Percetrons, Deep Neural Networks. Language Models and Recurrent Networks. Attention-based Neural Networks. Transformers: BERT, GPT models. 0-Shot Learning for NLP. Introduction to the main platforms for the development of ML software: Weka, SciKit, PyTorch, KeLP. Section II: Deep Networks for Natural Language Processing. Supervised Language Processing tools. HMM-based POS tagging. Named Entity Recognition. Statistical and Neural parsing. Shallow Semantic Parsing: kernel based semantic role labelling. Neural models for Textual Inference. End-to-End Neural semantic parsing. Information Extraction. Trasformer based Language processing: pre-training and fine-tuning. 0-shot Neural Models. Section III: ML Application in the Web: Sentiment Analysis and Social Media Analytics. Ranking Models for the Web. Introduction to Social Network Analysis: rank, centrality. Random walk models: Page Rank. Question Answering Systems. Wikipedia-based knowledge Acquisition. Social Web Analysis. Opinion Mining and Sentiment Analysis.
Testi di Riferimento IR - Introduction to Information Retrieval , Christopher D. Manning, Prabhakar Raghavan and Hinrich Schutze, Cambridge University Press. 2008. Find the book Home page HERE. ML - Introduction to Deep Neural Learning, Deep Learning, Ian Goodfellow, Yoshua Bengio, Aaron Courville, MIT Press, 2016. ML - Pattern Recognition and Machine learning, C. Bishop. Springer. 2006. ML ed IR - Automatic Text Categorization: from Information Retrieval to Support Vector Learning, Roberto Basili, Alessandro Moschitti, ARACNE Editore, 2005. Web IR - Bing Liu, Web Data Mining: Exploring Hyperlinks, Contents, and Usage Data. 2nd Edition, July 2011, Springer. Dispense fornite dal docente
Lezioni (Lessons Slide) Lesson 0: WMR - a.a. 2021-22: Introduction: Course Organization and Exam Modalities. Lesson 1: Introduction to Web Mining & Retrieval. Some slides of Lesson 1 refer to the discussion of the link: "A visual introduction to ML", slide 24). Lesson 1.1: Machine Learning: target problems and major paradigms. Lesson 2: Introduction to Geometrical models of text classification: Profile-based classification, Rocchio and k-NN. Lesson 3: Machine Learning Metrics and Evaluation (part I: metrics for Text Classification). Lesson 4a: Introduction to document modeling: from Information Retrieval to Natural Language Processing models of free texts (part I). Lesson 4b: Introduction to document modeling: from Information Retrieval to Natural Language Processing models of free texts (part II: semantics and Framenet). Short Bibliography as an Introduction to NLP and Text Mining: Context-free grammars ( A technical introduction in Italian, The Chomsky 1959 paper and 1957 book) Lesson 5: Decision Trees and Weka Tutorial Lesson 6: Introduction to the Use of a Standard NLP chain(the CoreNLP Stanford toolkit), spaCy and Stanza The Python code for the solutions of Laboratory Examples. The data from Wikipedia required for the Laboratory Examples. Lesson 7 - Unit 7.1 and 7.2: Probability and Learning: an introduction to Naive Bayes classifiers. Lesson 8:Introduction to Markov models: Sequence classification, Language Models, Hidden Markov Models. (Non mandatory Topic) Lesson 8a. Introduction to Parameter Estimation in Language Modeling. Lesson 9: Introduction to Unsupervised Learning as applied in Instance Clustering: similarity, metrics, algorithms and evaluation. Lesson 10: (A gentle) Introduction to PAC learning and VC dimension. The slides used for the Course have been postedited from a kindly published version by Ethem Alpaydin, that you can find HERE. C. Burges's Tutorial on SVM and VC dimension. D. Haussler discussion of PAC Learning, 1999. Valiant L. G. A Theory of the Learnable, Communications of the ACM, Volume 27 Issue 11, Nov. 1984 Pages 1134-1142 . Lesson 11: Support Vector Machines. An animated Perceptron. Dan Klein's tutorial on Lagrange methods for the SVM optimization problem. Lesson 12 Kernel-based learning. SVM, Kernel Lab: an introduction to KeLP Files for the Lab Exrecise. It includes the datasets, the sw library and useful examples. Lezione 13: Latent Semantic Analysis and Machine Learning. Lezione 13: Latent Semantic Analysis for Document Retrieval and Lexical Clustering. Lezione 14 Distributional Semantic Methods and introduction to Wordspaces. Lesson 15: Introduction to Neural Networks and Deep Learning Architectures: a mini Course. Lesson 15.1 An Introduction to Neural Learning. The MultiLayer Perceptron: defining and training MLPs. Lab 1 - Introduzione a Keras: the XOR example. Lab 2a - A Linear classifier and a MLP for image classification over the MNIST dataset in Keras. Lab 2b - A Linear classifier and a MLP for image classification over the MNIST dataset in Pytorch. Lesson 15.2 Deep Learning: Architectures and Tasks Laboratory 3 (18 Maggio): Lab 3a - A CNN for image classification over the MNIST dataset in Keras. Lab 3b - A CNN for image classification over the MNIST dataset in Pytorch. References and resources: Gradient Descent and Perceptron training, "A Tutorial on Deep Learning, Part 1: Nonlinear Classifiers and The Backpropagation Algorithm", Quoc V. Le (Google), (fino a sezione 6 compresa) Backpropagation on NNs, "Sparse autoencoder", from the lessons of Andrew Ng (Stanford University, USA), (fino a pagina 12) Advanced Architectures, "A Tutorial on Deep Learning, Part 2: Autoencoders, Convolutional Neural Networks and Recurrent Neural Networks", by Quoc V. Le (Google Brain) Deep Learning, "Learning Deep Architectures for AI", Yoshua Bengio Dept. IRO, Universite' de Montreal, CA. An interesting in-depth analysis on CNN Software packages for Deep Learning: TensorFlow Anaconda Torch Keras Tensorflow Pytorch Lesson 15.3 Deep Learning and Natural Language Processing: Recurrent Neural Networks, Encoder and Decoder Networks Lesson 15.4 Deep Learning, Language Modeling and Embeddings (Facoltativa, per l'a.a 2021-22) Lezione 16 Short Introduction to Opinion Mining. See also: Tutorial on Opinion Mining (by B. Liu) Book Chapter on Opinion Mining and Sentiment Analysis (by Bo Pang and Lillian Lee)
Link Utili Introduction to Information Retrieval, Christopher D. Manning, Prabhakar Raghavan and Hinrich Schutze, Cambridge University Press. Web Data Mining, Bing Liu, Springer Verlag, 2011. Google TensorFlow SciKit Learn
LABORATORI: Progetti ed Esercizi Saranno QUI resi disponibili Esercizi e Soluzioni di preparazione alla Prove d'Esame. Introduzione al Primo Test in Itinere: only questions. ESECIZI di preparazione al Test in Itinere PROPOSTI: Decision Trees and Rocchio