발표 Youtube사용된 데이터셋colab link [AIF] 개인 데이터셋을 통한 llama2 fine-tuneAIF에서 발표한 내용을 다시 작성한 Post입니다, 해당 강의는 llama2를 사용한 fine-tune의 간편화에 목적을 두었습니다.강연에서는 Gradientai, SFTTrainer 을 예시로 사용했습니다.https://github.com/lxe/simple-llm-finetuner해당 github의 simple-llm-finetuner가 llama2 모델을 지원하지 않고, 추가 업데이트 없이 종료되어 해당 github의 코드를 사용하여 easy_finetuner를 만들었습니다. (https://github.com/choijhyeok/easy_finetuner?tab=readme-ov-fi..

발표 Youtubecolab link[AIF] 챗GPT 점메추 메뉴판, 예산입력하고 점심 메뉴 추천받자AIF에서 발표한 내용을 다시 작성한 Post입니다, 해당 강의는 PDF를 통해 RAG를 하는 과정을 버거킹 메뉴추천으로 설명하면 이해가 쉬울것이라 생각해서 강의를 기획하게 되었습니다.버거킹 메뉴판에서 Text 추출 > Text 정제 > Chunk 분할 > Chain설정 > Test 까지의 과정입니다.이해가 가지 않는 부분은 발표한 내용을 참조해 주시면 감사하겠습니다.필요한 패키지 설치버전이 달라졌을수 있습니다. 2023-06-07 강연시에는 정상 작동했습니다.!pip install langchain!pip install pypdf!pip install openai!pip install gdown!pip..

발표 Youtubecolab link MMPose keypoint-estimation tutorialAIF에서 발표한 내용을 다시 작성한 Post입니다, KeyPoint Detection을 처음하는 사람도 쉽게 접근할수 있게 풀어서 설명했습니다. Keypoints 분야에 빠르게 사용할 수 있는 패키지인 MMPose 패키지에 대한 사용법 입니다.MMDetection에 대한 예제는 많이 있지만 MMPose에 대한 예제가 별로 없어서 작성하였습니다.이해가 가지 않는 부분은 발표한 내용을 참조해 주시면 감사하겠습니다. MMPose 설치첫 설치후 다시 시작 (자동으로 런타임 재시작)import osif 'mmpose' not in os.listdir('./'): !pip install -U openmim !m..

강의 링크강의 자료AIF SeminarAIFactory 에서 제공하는 '[Space-S x DLD 2022] 케라스 실용 예제 및 개발 가이드 컨퍼런스' 세미나 후기입니다. Advanced Augmentation Strategy in KerasData Augmentation이란?학습/추론에 사용하는 데이터의 양을 늘리기 위해 적용Data space에서 비어 있는 공간을 채워 generalization 효과 증가 (overfitting 해결)Image와 Text 등 다양한 도메인의 특징에 맞게 적용Augmentation의 종류(Image)Pixel-levelSpatial-levelGenerative modelAdvanced augmentation strategy Basic Image Manipulation..

강의 링크AIFactory 에서 제공하는 세미나 중에서 흥미로웠던 부분을 중심으로 리뷰했습니다.실제로 많은 도움이 되었고 전체적인 진행방향을 잡기 좋은 강의였습니다. 목차탐색적 데이터 분석베이스라인 모델 설계딥러닝 모델 성능 개선 프로세스 1. 탐색적 데이터 분석1단계: 문제(경진대회) 이해문제를 정확히 이해해야 목표점을 명확히 설정할 수 있음2단계: 탐색적 데이터 분석(EDA)주어진 데이터를 면밀히 분석딥러닝 성능은 데이터 수와 품질에 크게 좌우됨이미지 분류 딥러닝에서는 선택적 데이터 분석의 양이 적음, EDA 양이 적음3단계: 베이스라인 모델 설계딥러닝 프레임워크를 활용해 기본 모델 만들기처음부터 좋을수는 없음tensorflow는 배포가 pytorch 보다는 편함4단계: 성능 개선베이스라인 모델을 점..

AIFactory 에서 제공하는 세미나 중에서 흥미로웠던 부분을 중심으로 리뷰했습니다.실제로 많은 도움이 되었고 전체적인 진행방향을 잡기 좋은 강의였습니다. 목차머신러닝 문제해결 프로세스 & 탐색적 데이터 분석(EDA)의 중요성과 개요베이스라인 모델 설계모델 성능 개선 방안 1. 머신러닝 문제해결 프로세스 & 탐색적 데이터 분석(EDA)의 중요성과 개요 과정문제 이해탐색적 데이터 분석주어진 데이터를 면밀히 분석데이터 전처리더러운 데이터를 깨끗하게 만드는 작업대회에서는 상당 수준 전처리가 이미 이루어진 상태 머신러닝 문제해결 체크리스트 1-1. 문제 이해문제 배경과 목적어떤 데이터를 활용해서 어떤 값을 예측해야 하는지?문제 유형 확인회귀인지, 분류인지?데이터 확인주어진 데이터가 무엇인지?문제 접근 방법어떻..

논문링크참고자료1참고자료2Pose Estimation 설명body part를 예측하는 분야로써 2D, 3D로 나눌수 있음2D는 single person, multi person으로 나눔신체의 머리, 어깨, 관절 등의 keypoint를 예측하는 방법으로 Direct Regression, Heatmap regression으로 나눌수 있음Direct regression2차원 이미지 픽셀 값을 입력값으로 이용해 바로 좌표를 추정하는 방식빠른 학습이 가능, 다수의 사람이 존재할 경우 적용이 어려움keypoints 위치가 비선형적임으로 적합하게 매핑하기 어렵다는 문제가 존재Heatmap regression신체 부위중 keypoints가 존재할 만한 위치를 확률적으로 heatmap으로 계산하고 keypoints 위치..

On The Convergence of Adam and Beyond 논문 1. 사전에 알고 가야하는 Optimizer 1-1. SGD장점전체 data를 가지고 한 번에 loss function을 계산하는 것이 아닌 전체 데이터의 일부만으로 loss function을 계산함loss function을 여러번 빠르게 계산이 가능함단점loss function의 최솟값을 찾기 위해 자주 step의 방향을 바꿔야 해서 학습이 불안정함순간순간의 기울기에 따라 방향이 결정되어서 상황에 따라서 비효율적인 Local minimum 수렴 1-2. Momentum장점현재 Gradient를 통해 이동하는 방향과 별개로 과거에 이동했던 방식을 기억하면서 그 방향으로 일정량을 주기적으로 이동하는 방식local minimum에 빠지..

논문 링크 : Mask R-CNN 요약Mask R-CNN은 일반적으로detection task보다는 instance segmentation task에서 주로 사용Instance segentation이미지 내에 존재하는 모든 객체를 탐지하는 동시에 각각의 경우를 정확하게 픽셀 단위로 분류하는 task객체를 탐지하는 object detection task와 각각의 픽셀의 카테고리를 분류하는 semantic segmentation task가 결합된 것위 그림을 보면 Semantic segmentation과 Instance segmentation의 차이를 확인할수있음객체도 잡히고 배경도 그대로Mask R-CNN은 Faster R-CNN의 RPN에서 얻은 RoI(Region of Interest)에 대하여 객체의..