” 특허 검색을 위한 embedding model 개발 -- Pre-trained language model과 contrastive learning을 결합 -- Bi-encoder 기반의 모델 사용 -- 적은 수의 labeling data를 가지고 다양한 data augmentation 방법 시도 (interpolation and perturbation) * 문장 분리를 위한 모델 개발 -- 긴 특허 문장 하나를 의미단위의 짧은 문장으로 분리하는 모델 -- 문장 분리라는 task를 번역 task로 간주 -- Encoder-Decoder 기반의 모델 사용 * ChatGPT API를 사용한 데이터 수집 -- 정교한 prompt engineering을 통해 양질의 데이터 생성

更多

* 자연어처리(NLP) 모델을 이용한 새로운 분자 생성 모델 연구 및 개발 -- LSTM, VAE 등을 이용하여 생성 모델 개발 -- Large scale model(GPT)을 이용하여 생성 모델 연구 및 개발 -- Large scale molecule dataset을 이용하여 GPT 모델 학습 -- 신규 분자 약물 후보들을 생성 -- Graph-based 모델을 이용한 새로운 분자 생성 모델 연구 및 개발 * 학습한 GPT 모델에 강화학습 적용 -- 주어진 단백질에 잘 반응하는 분자를 만들기 위해 강화학습 적용 -- Docking score(단백질과 분자가 얼마나 잘 반응하는지를 나타내는 수치)를 강화학습의 reward로 사용 -- Docking score: 원자와 분자 사이의 결합에너지를 물리적 방법으로 계산하여 얻은 값 -- 주어진 단백질에 docking score가 높은 분자들을 생성하는 모델을 만듦 * 신약개발 문헌분석을 위한 text mining 모델 개발 -- Biomedical named entity recognition and relation extraction using BioBERT -- BioBERT pre-training 및 fine-tuning * Graphormer를 이용한 분자특성 prediction model 연구 및 개발 -- Prediction accuracy를 높이기 위해 inductive bias를 모델에 주입 -- 원자간의 거리를 (3D position 정보 이용) 모델에 넣어서 성능향상을 이끌어냄 -- fairseq framework 이용한 구현 * 한국제약바이오협회에서 제공하는 강의 프로그램에 강사로 참여 -- 2021년 "Deep Learning Based Molecular Generation" (https://www.laidd.org/local/ubonline/view.php?id=55) -- 2022년 "Linear Algebra for Machine Learning" (https://www.laidd.org/local/ubonline/view.php?id=87) -- 2022년 "Probability Theory for Machine Learning" (https://www.laidd.org/local/ubonline/view.php?id=88) -- 강의 노트 및 코드 ---- https://github.com/ilguyi/LAIDD-molecular-generation ---- https://github.com/ilguyi/LAIDD2022-math-for-ML

更多

* 신약개발을 위한 타겟 기반 분자 생성모델 연구 -- Autoregressive model, VAE, GAN, normalizing flow model등 여러가지 생성모델을 이용한 연구 및 개발 -- NLP model을 이용하여 분자 생성 모델 연구 개발 -- Graph-based model을 이용하여 분자 생성 모델 연구 개발 * Protein Design -- 주어진 단백질 구조(backbone structure)에 맞는 단백질 시퀀스 생성 모델 연구 개발 -- 그래프 기반 모델과 transformer 기반 모델을 결합함 * Drug-Target Interaction -- 약물(drug)과 타겟(단백질) 사이의 반응성(interaction) 예측 모델 연구 및 개발 -- 약물과 타겟 모두 시퀀스 기반의 데이터로 모델링 (NLP 기술 사용) * 분자성질 예측 모델 개발 -- 분자의 feature들을 기반으로 분자 성질 예측 머신러닝 모델 개발 -- 기존 머신러닝 모델보다 좋은 성능을 내기 위해 그래프 기반의 딥러닝 모델로 변경

更多

* 다양한 Generative model에 대한 강의 및 연구 -- 멀티캠퍼스에서 "TensorFlow로 배우는 Generative Models" 강의 진행 -- 다양한 generative models (autoregressive, latent variables models, normalizing flow models, generative adversarial networks) 를 다룸 -- 강의 목적으로 최대한 간결하고 일관성있게 작성 (TensorFlow 2.0 기반 구현) -- GitHub: http://github.com/ilguyi/generative.models.tensorflow.v2 * Generate and Transfer for Art (GTA Lab)에서 음악 생성 연구 진행 -- 2019 AI Festival(in KAIST)에 발표자로 참가 (2019.7.6) -- 'AI가 만드는 음악' 발표 -- 음악 생성 app. 및 Google Magenta project 전시 -- Music source separation 연구 진행 * 다양한 인공지능 관련 강의 1. 멀티캠퍼스 a. TensorFlow로 배우는 Generative Models (x 2회) b. 실전! TensorFlow로 배우는 딥러닝 (x 15회) 2. LG 인화원 a. LG Academy AIB 입문 코스 (x 2회) 3. LG 전자 a. LG 전자 CTO 부서 직무전환자 과정 (x 3회) b. LG 전자 MC 부서 AI 강의 (x 4회) 4. SK C&C a. 딥러닝 TensorFlow 실습과정 (x 1회)

更多

* 장면이해(scene understanding)를 위한 다양한 computer vision 문제 연구 -- 가정용 로봇에 탑재될 인공지능 모델 개발 -- 이미지 인식 (image recognition), 동작 인식 (action recognition) 모델 개발 -- Human pose estimation 모델 개발 -- Image captioning 모델 개발 * 생성모델 연구 (VAE, GAN 등)

更多