====== Deep Learning Roadmap for Mechanical Engineering Students ====== ===== 본 글의 목적 ===== 본 글의 목적은 KAsimov 회원 및 Machine Learning & Deep Learning을 학습하고자 하는 기계과 학생을 위한 학습 가이드라인입니다. 학습하는 데 있어서 추천되는 순서가 있겠지만, 반드시 따를 필요는 없으며, 또한 모든 내용을 당장 알아야하는 것은 아닙니다. 또한, 아래에 명시된 자료가 전부가 아니며, 학습하는 사람에 따라서 적절한 자료가 다를 수 있습니다. 본격적으로 공부에 진입하기 전, 조사와 탐색에 공을 들이시길 바랍니다. ==== Mathematics ==== 우선은 정리가 된 자료 두 가지를 보는 것으로 시작합니다. [[https://datascienceschool.net/02%20mathematics/00.00%20%EC%86%8C%EA%B0%9C%EC%9D%98%20%EA%B8%80.html|데이터 사이언스 스쿨 수학 편]] [[https://d2l.ai/chapter_appendix-mathematics-for-deep-learning/index.html|Dive to Deep Learning : Appendix]] \\ 부족하다고 느껴지는 경우 세부적인 공부를 해보는 것도 좋습니다. [[https://www.khanacademy.org/math/multivariable-calculus|다변수 미적분학]] [[http://www.kocw.net/home/cview.do?cid=7c789810ade43386|기초통계학]] [[http://www.kocw.net/home/cview.do?cid=7c789810ade43386|수리통계학1]] [[http://www.kocw.net/home/cview.do?cid=d112ad1ca7f5fda9|수리통계학2]] [[https://www.edwith.org/ai251|선형대수학]] \\ 아래는 분량이 좀 되는 도서입니다. Part 1까지가 포항공대 입시 범위라고 들었습니다. [[https://mml-book.github.io/book/mml-book.pdf|Mathematics for Machine Learning]] \\ 여기서 부터는 학부과정에서 살펴볼 필요는 없을 것 같습니다. 아래는 해석학입니다. [[https://iseulbee.com/archives/the-art-of-analysis-4ed/|맛있는 해석학]] [[https://iseulbee.com/archives/the-art-of-analysis-4ed-solution/|맛있는 해석학 문제풀이]] 아래는 Convex Optimization에 관한 자료입니다. [[https://convex-optimization-for-all.github.io/|모두를 위한 컨벡스 최적화]] 아래는 각종 수학 주제를 다루는 채널입니다. 재생목록이 잘 정비되어있는 편입니다. 수학이 즐거운 지는 솔직히 잘 모르겠습니다. [[https://www.youtube.com/channel/UCB_AbuIVIG8I3K3_T_j0FSw/playlists|수학의 즐거움]] ==== Machine Learning & Deep Learning ==== 다음은 간단한 수준의 머신러닝 및 딥러닝 자료입니다. 같은 채널에 PyTorch 버전도 있으니 하나만 선택해서 공부하셔도 될 것 같습니다. [[https://www.youtube.com/watch?v=7eldOrjQVi0&list=PLQ28Nx3M4Jrguyuwg4xe9d9t2XE639e5C&ab_channel=DeepLearningZeroToAll|모두의 딥러닝 시즌 2 Tensorflow]] \\ 아래부터는 학부 전공 수준의 기계학습 강의입니다. [[https://www.coursera.org/specializations/machine-learning-introduction?action=enroll&adgroupid=131088411058&adpostion=&authMode=signup&campaignid=15277156238&creativeid=561886531168&device=c&devicemodel=&gclid=CjwKCAjwwo-WBhAMEiwAV4dybbg5_Ba1kIwFxBQk-gvS1Svffn1O3FfdoRiR3uCYb3UDN7n7I8cU4RoC6VcQAvD_BwE&hide_mobile_promo=&keyword=coursera+machine+learning&matchtype=b&network=g&utm_campaign=28-MLOps-DL.ai-APAC&utm_content=B2C&utm_medium=sem&utm_source=gg|Andrew Ng's Machine Learning]] 아래 또한 전공 수준 기계학습 강의입니다. 다루는 내용을 보면 학부 수준은 아닌 것 같습니다. [[https://www.edwith.org/machinelearning1_17|인공지능 및 기계학습 1]] [[https://www.edwith.org/machinelearning2__17|인공지능 및 기계학습 2]] [[https://www.edwith.org/aiml-adv|인공지능 및 기계학습 심화]] \\ 다음은 컴퓨터비전 Task를 해결하기 위한 목적의 딥러닝 강의입니다. [[https://www.youtube.com/playlist?list=PL5-TkQAfAZFbzxjBHtzdVCWE0Zbhomg7r|Deep Learning for Computer Vision : EECS 498 - 007]] 다음은 전통적인 컴퓨터비전에 관한 강좌입니다. [[https://fpcv.cs.columbia.edu/|First Principle of Computer Vision]] \\ 다음은 자연어처리 강의 입니다. [[https://www.youtube.com/watch?v=rmVRLeJRkl4&list=PLoROMvodv4rOSH4v6133s9LFPRHjEmbmJ&ab_channel=StanfordOnline|CS224N 2021 winter]] \\ 다음은 확률 및 그래프 모델에 관한 강의입니다. [[https://ermongroup.github.io/cs228-notes/|CS228 Lecture Notes]] [[https://www.coursera.org/specializations/probabilistic-graphical-models|Probabilistic Graphical Models]] [[https://www.youtube.com/watch?v=JAB_plj2rbA&list=PLoROMvodv4rPLKxIpqhjhPgdQy7imNkDn&ab_channel=StanfordOnline|Machine Learning with Graphs]] \\ 아래는 교수님들의 재생목록입니다. [[https://www.youtube.com/channel/UCro6IqfE5NOspKCDusilfmw/playlists|김승룡 교수님]] [[https://www.youtube.com/channel/UCsEQc1-iFbu_yHvMd1vqwFQ/playlists?view=1&sort=dd&shelf_id=0|주재걸 교수님]] ==== Further ==== 다음은 ML 엔지니어로서의 필요 요건에 관한 강의입니다. [[https://fullstackdeeplearning.com/course/|Full Stack Deep Learning]] \\ 논문 학습 및 구현 아래는 논문 모음집 [[https://www.notion.so/c3b3474d18ef4304b23ea360367a5137?v=5d763ad5773f44eb950f49de7d7671bd|DBSA notion]] [[https://www.facebook.com/bigdatastudy/photos/%EB%AC%B4%EB%A3%8C-%EA%B3%B5%EC%9C%A0%EA%B3%A0%EB%A0%A4%EB%8C%80%ED%95%99%EA%B5%90-%EC%82%B0%EC%97%85%EA%B2%BD%EC%98%81%EA%B3%B5%ED%95%99%EB%B6%80-data-science-business-analytics-%EC%97%B0%EA%B5%AC%EC%8B%A4-%EC%8B%A0%EC%9E%85%EC%83%9D%EB%93%A4%EC%9D%84-%EB%8C%80%EC%83%81%EC%9C%BC%EB%A1%9C-%EB%B0%98%EB%93%9C%EC%8B%9C-%EC%9D%BD%EC%96%B4%EC%95%BC-%ED%95%98%EB%8A%94-%EB%85%BC%EB%AC%B8-/188218132667114/|논문 로드맵]] \\ 아래는 영상 [[https://www.youtube.com/playlist?list=PLetSlH8YjIfUpPbSAfsY4zBJfztlH9CSQ|DBSA 1]] [[https://www.youtube.com/playlist?list=PLetSlH8YjIfUi6p0wdA6z2dFbXUpLor6K|DBSA 2]] [[https://www.youtube.com/playlist?list=PLRx0vPvlEmdADpce8aoBhNnDaaHQN1Typ|나동빈 논문 리뷰]] \\ 아래는 유명한 paper review study인 PR 12로, 다루는 논문의 수준이 높은 편이라서 입문하는 입장에서는 권장하지 않습니다. [[https://www.youtube.com/watch?v=auKdde7Anr8&list=PLWKf9beHi3Tg50UoyTe6rIm20sVQOH1br&ab_channel=SungKim|PR12 Season 1]] [[https://www.youtube.com/watch?v=FfBp6xJqZVA&list=PLWKf9beHi3TgstcIn8K6dI_85_ppAxzB8&ab_channel=MinGukKang|PR12 Season 2]] [[https://www.youtube.com/watch?v=D-baIgejA4M&list=PL_skMddDjnzq1wDI3t2cH9hlK6wBBapeA&ab_channel=Jiyang%27sMLPaperReview|PR12 Season 3]] [[https://www.youtube.com/watch?v=az-OV47oKvA&list=PL0o99tZwBlrMV3QsZ4O79KjMHDhAJpAdW&ab_channel=DoyupLee|PR12 Season 4]] \\ 각 시기별 SoTA (State of the Art, 해당 시점에서 최고 성능을 보이는 기술이라는 의미)에 해당하는 모델을 정리해놓은 사이트입니다. 종종 구현 코드도 함께 올라오니 함께 보는 것이 논문 이해에 좋습니다. [[https://paperswithcode.com/]] 시기별로 주목받는 인공지능 논문을 선정해놓은 사이트입니다. [[https://arxiv-sanity-lite.com/]] \\ AI 기반의 대회가 자주 열리는 사이트입니다. 대회 환경에서는 주로 tensorflow나 pytorch보다는 scikit-learn가 더 많이 사용되고 있습니다. Kaggle : 대회 및 dataset [[https://www.kaggle.com/|Kaggle]] Dacon : 국내 기업 주최 AI 대회 [[https://dacon.io/]] ==== Computer Science ==== 공부를 지속하다보면 컴퓨터 과학에 대한 기본 지식이 요구될 수도 있습니다. 자료구조와 알고리즘 [[https://www.edwith.org/datastructure-2019s]] [[https://www.edwith.org/datastructure-2019s2]] or [[https://www.coursera.org/specializations/algorithms]] 논리회로 및 Verilog [[https://www.youtube.com/watch?v=HcdlkMI54Vg&t=44s&ab_channel=%EB%A9%94%ED%83%80%EC%BD%94%EB%93%9CM|Verilog HDL 입문]] 컴퓨터구조 [[http://www.kocw.net/home/cview.do?cid=16bd07027739ad22]] 운영체제 [[https://www.inflearn.com/course/%EC%9A%B4%EC%98%81%EC%B2%B4%EC%A0%9C-%EA%B3%B5%EB%A3%A1%EC%B1%85-%EC%A0%84%EA%B3%B5%EA%B0%95%EC%9D%98|운영체제 강좌]]