Alex Ratner

Snorkel/UW/Stanford

Legfrissebb hírek

[5/5/2020] Közelgő beszélgetés az MSR Frontiers in Machine Learning eseményen (7/23).
[2020.05.27.] A snorkellel végzett munkánk a kémiai reakciók biomedicinális irodalomból történő kivonására szolgál sajtóban!
[5/1/20] Munkánk a Snorkel alkalmazásával az orvosi képalkotás és monitorozás területén kereszt-modális sajtóban van!
[9/4/19] Új dokumentum elfogadásra került a NeurIPS számára szeletelő funkciók részhalmazok vagy adatkészletek szeleteinek megfigyelésére és modellezésére; lásd oktatóanyag a sznorkelben.
[8/15/19] Nagyon izgatott a Snorkel v0.9 kiadása! Kiadási megjegyzések itt.

A gépi tanulási rendszerek kiépítésének egyik legfontosabb szűk keresztmetszete ma a képzési adatkészletek létrehozása és kezelése. Az adatok kézi címkézése helyett azon dolgozom, hogy lehetővé tegyem a felhasználók számára a modern ML verem használatát a képzési adatkészletek programos felépítése és kezelése. Ezek a gyenge felügyeleti megközelítések hónapok vagy évek helyett napokban vagy hetekben épülhetnek fel. Nagyon szerencsés vagyok, hogy együtt dolgozhatok a Snorkel csapatával és a Hazy, Info, StatsML, DAWN és QIAI labor tagjaival.

Kutatási projektek

Adatprogramozás + Snorkel

A Snorkel lehetővé teszi a felhasználók számára, hogy a képzési adatkészleteket gyorsan és egyszerűen felcímkézzék, bővítsék és strukturálják azáltal, hogy programozási operátorokat írnak, nem pedig kézzel címkézik és kezelik az adatokat. A Snorkelről további információt a snorkel.org oldalon talál, és az új verzió kiadási megjegyzéseit!

Publikációk

Programos címkézés gyenge felügyeletként

A képzési adatok címkézése napjaink egyik legnagyobb szűk keresztmetszete a gépi tanulásban. Munkám azt vizsgálja, hogy a felhasználók képezhetnek-e modelleket kézzel címkézett képzési adatok nélkül, ehelyett ír címkézési funkciók, amelyek programozottan címkézik az adatokat gyenge felügyeleti stratégiák, például heurisztika, tudásbázisok vagy más modellek segítségével. Ezek a címkézési funkciók tetszőleges pontossággal és összefüggésekkel rendelkezhetnek, amelyek új rendszerekhez, algoritmikus és elméleti kihívásokhoz vezethetnek. További információ itt: Snorkel.

Kémiai reakciók kivonása a szövegből Snorkel segítségével. Emily Mallory, Matthieu de Rochemonteix, Alexander Ratner, Ambika Acharya, Christopher Ré, Roselie Bright, Russ Altman. BMC Bioinformatika 2020.

A multimodális adatprogramozás lehetővé teszi a gyors orvosi gépi tanulást. Jared Dunnmon *, Alexander Ratner *, Nishith Khandwala, Khaled Saab, Matthew Markert, Hersh Sagreiya, Roger Goldman, Christopher Lee-Messer, Matthew P. Lungren, Daniel L. Rubin, Christopher Ré. Minták 2020.

Snorkel: Gyors edzésadatok létrehozása gyenge felügyelettel (kiterjesztett legjobb verzió). Alex Ratner, Stephen Bach, Henry Ehrenberg, Jason Fries, Sen Wu, Christopher Ré. VLDBJ 2019. [Projekt]

Interaktív programozási címkézés a gyenge felügyelethez. Benjamin Cohen-Wang, Steve Mussmann, Alexander Ratner, Christopher Ré. A KDD adatgyűjtése, gondozása és címkézése a bányászat és a tanulás műhelyéhez 2019.

Kétségtelenül gyenge felügyelet a mély CT tanulási modellek számára a fej CT számára. Khaled Saab, Roger Goldman, Jared Dunnmon, Alexander Ratner, Hersh Sagreiya, Christopher Ré, Daniel L. Rubin. MICCAI 2019.

Géppel összeállított adatbázis a genomszéles társulási vizsgálatokról. Volodymyr Kuleshov, Jialin Ding, Christopher Vo, Braden Hancock, Alexander Ratner, Yang Li, Christopher Ré, Serafim Batzoglou, Michael Snyder. Nature Communications 2019.

Osprey: A kiegyensúlyozatlan kibontási problémák gyenge felügyelete kód nélkül. Eran Bringer, Abraham izraeli, Alexander Ratner, Christopher Ré. SIGMOD DEEM Workshop 2019.

Függőségi struktúrák elsajátítása gyenge felügyeleti modellekhez. Varoma Paroma, Frederic Sala, Ann He, Alexander Ratner, Christopher Ré. ICML 2019.

A minta komplexitásának javítása megfigyelési felügyelettel. Khaled Saab, Jared Dunnmon, Alexander Ratner, Daniel L. Rubin, Christopher Ré. ICLR Learning with Limited Labeled Data (LLD) Workshop 2019.

Snorkel DryBell: Esettanulmány a gyenge felügyelet telepítéséhez ipari méretekben. Stephen H. Bach, Daniel Rodriguez, Yintao Liu, Chong Luo, Haidong Shao, Cassandra Xia, Souvik Sen, Alexander Ratner, Braden Hancock, Houman Alborzi, Rahul Kuchhal, Christopher Ré, Rob Malkin. SIGMOD (Ipari) 2019.

Snorkel: Gyors edzésadatok létrehozása gyenge felügyelet mellett. Alex Ratner, Stephen Bach, Henry Ehrenberg, Jason Fries, Sen Wu, Christopher Ré. VLDB 2018. [Blog] [Projekt] [Poszter] [Diák] [Lefedettség: O'Reilly, EETimes, InfoWorld] ["Best Of" VLDB 2018]

Keresztmodális adatprogramozás az orvosi képekhez. Nishith Khandwala, Alex Ratner, Jared Dunnmon, Roger Goldman, Matt Lungren, Daniel Rubin, Christopher Ré. NeurIPS ML4H Workshop 2017.

Géppel összeállított adatbázis a genomszéles társulási vizsgálatokról. Volodymyr Kuleshov, Braden Hancock, Alex Ratner, Christopher Ré, Serafim Batzaglou, Michael Snyder. NeurIPS ML4H Workshop 2016. [Poszter]

Adatprogramozás: nagy edzéskészletek készítése, gyorsan. Alex Ratner, Christopher De Sa, Sen Wu, Daniel Selsam, Christopher Ré. NeurIPS 2016. [Blog] [Videó] [Poszter]

Az AMELIE felgyorsítja a mendeli betegdiagnosztikát közvetlenül az elsődleges irodalomból. Johannes Birgmeier, Maximilian Haeussler, Cole A. Deisseroth, Karthik A. Jagadeesh, Alexander J. Ratner, Harendra Guturu, Aaron M. Wenger, Peter D. Stenson, David N. Cooper, Christopher Ré, Jonathan A. Bernstein, Gill Bejerano. BioRxiv 2017. [Projekt]

Snorkel: Gyors képzési készlet generálása az információ kinyeréséhez. Alex Ratner, Stephen Bach, Henry Ehrenberg, Christopher Ré. SIGMOD Demo 2017. [Projekt]

Snorkel: A rendszer a könnyű kivonáshoz. Alex Ratner, Stephen Bach, Henry Ehrenberg, Jason Fries, Sen Wu, Christopher Ré. CIDR 2017. absztrakt.

Adatprogramozás a DDLite segítségével: Az emberek elhelyezése a hurok egy másik részében. Henry Ehrenberg, Jaeho Shin, Alex Ratner, Jason Fries, Christopher Ré. HILDA @ SIGMOD 2016.

Többfeladatos gyenge felügyelet

Többfeladatos tanulás egyre népszerűbb megközelítés számos kapcsolódó feladat közös modellezéséhez. A többfeladatos tanulási modellekhez azonban több nagy, kézzel címkézett képzési készlet szükséges. Munkám itt a gyenge felügyelet használatára összpontosít. Úgy látjuk, hogy ez egy olyan új paradigmát tesz lehetővé, amelyben a felhasználók dinamikusan, zajos módon gyorsan felírnak tíz-száz feladatot, és rendszereket és megközelítéseket vizsgálnak ennek támogatására. tömegesen többfeladatos rezsim. A kezdeti lépésekhez nézze meg a Snorkel MeTaL oldalt.

Képzési komplex modellek többfeladatos gyenge felügyelettel. Alex Ratner, Braden Hancock, Jared Dunnmon, Frederic Sala, Shreyash Pandey, Christopher Ré. AAAI 2019. [Projekt] [Poszter] [Szóbeli]

Snorkel MeTaL: Gyenge felügyelet a többfeladatos tanuláshoz. Alex Ratner, Braden Hancock, Jared Dunnmon, Roger Goldman, Christopher Ré. SIGMOD DEEM Workshop 2018. [Projekt]

Az adatok bővítése gyenge felügyeletként

Adatbővítés az egyre kritikusabb gyakorlat, hogy a kis címkével ellátott oktatási készleteket kibővítik az adatpontok átalakított másolatainak létrehozásával az osztálycímkék megőrzésével. Valójában ez egy egyszerű, modell-agnosztikus módszer arra, hogy a felhasználók be tudják adni tudásukat a tartomány- és feladat-specifikus változatlanságokról, és itt végzett munkám azt vizsgálja, hogyan tudjuk támogatni és felgyorsítani a gyenge felügyelet ezen erőteljes formáját.

A modern adatbővítés rendszermag-elmélete. Tri Dao, Albert Gu, Alex Ratner, Virginia Smith, Christopher De Sa, Christopher Ré. ICML 2019.

Egyéb

MLSys: A gépi tanulási rendszerek új határa. Alexander Ratner, Dan Alistarh, Gustavo Alonso, David G. Andersen, Peter Bailis, Sarah Bird, Nicholas Carlini, Bryan Catanzaro, Jennifer Chayes, Eric Chung, Bill Dally, Jeff Dean, Inderjit S. Dhillon, Alexandros Dimakis, Pradeep Dubey, Charles Elkan, Grigori Fursin, Gregory R. Ganger, Lise Getoor, Phillip B. Gibbons, Garth A. Gibson, Joseph E. Gonzalez, Justin Gottschlich, Song Han, Kim Hazelwood, Furong Huang, Martin Jaggi, Kevin Jamieson, Michael I. Jordan, Gauri Joshi, Rania Khalaf, Jason Knight, Jakub Konečný, Tim Kraska, Arun Kumar, Anastasios Kyrillidis, Aparna Lakshmiratan, Jing Li, Samuel Madden, H. Brendan McMahan, Erik Meijer, Ioannis Mitliagkas, Rajat Monga, Derek Murray, Dimitris Papailiopoulos, Gennady Pekhimenko, Christopher Ré, Theodoros Rekatsinas, Afshin Rostamizadeh, Christopher De Sa, Hanie Sedghi, Siddhartha Sen, Virginia Smith, Alex Smola, Dawn Song, Evan Sparks, Ion Stoica, Vivienne Sze, Jelex Madeline Shivaram Venkataraman, Rashmi Vinayak, Markus Weimer, Andrew Gordon Wilson, Eric Xing, Matei Zaharia, Ce Zhang, Ameet Talwalkar. 2019.

DeepDive: Nyilatkozati tudásbázis felépítése. Ce Zhang, Christopher Ré, Michael Cafarella, Christopher De Sa, Alex Ratner, Jaeho Shin, Feiran Wang, Sen Wu. Az ACM 2017 kommunikációja.

Deepdive: Deklaratív tudásbázis felépítése. Christopher De Sa, Alex Ratner, Christopher Ré, Jaeho Shin, Feiran Wang, Sen Wu, Ce Zhang. ACM SIGMOD Record 2016.