유저와 코디 에이전트의 대화로 주어진 패션 아이템 코디의 순서를 메기는 대회입니다. 텍스트 데이터와 이미지에서 추출된 특징 데이터를 하나의 트랜스포머로 학습시켰습니다.

주어진 논문이 어떤 기후기술분류에 속하는지 분류하는 대회입니다. 과제명, 요약문 키워드등 여러개의 텍스트 정보가 주어졌습니다. bert 모델로 각각의 텍스트 정보를 추출하고 해당 결과들을 linear layer로 합치는 모델을 사용했습니다. MADGRAD 옵티마이저를 사용해 최적화했습니다. 데이터 불균형이 심해서 마지막에는 데이터 전체를 활용해서 학습했습니다. 최종 성적은 6등입니다.

531 (등급: 1+)

5인이서 진행한 수식 이미지에서 latex 생성하는 대회입니다. 해당 대회에서 저는 베이스라인에서 Transforme에서 encoder-decoder attention 부분이 잘못 구현된것을 찾았습니다. 또 이미지 비율을 유지하게 하는 resize 구현했습니다. 그외 TUPE, Locality-aware feed forward, multi-sample dropout을 구현했습니다. Batch Beam Search도 구현은 했지만 성능은 별로라서 사용은 하지 않았습니다. 대회 결과는 평균입니다.

4인이서 한 유저와 시스템 대화에서 특정한 정보를 추출하는 DST 대회입니다. 저는 제공된 모델들의 GRU 부분을 Transformer로 바꾸고 논문을 참고해 새로운 모델들을 만들려고 시도했습니다. 또 팀원들이랑 같이 CoCo-Aug(유저 대화 augmentation 기법) 프로세스도 구현했습니다. 대회 결과는 안타깝게도 Public에서 Private으로 갈때 성능 하락이 제일 심했습니다. Training, Public, Private 데이터 분포가 다름을 무시해서 이런 결과가 나왔습니다.