김띵준의 Programming Story

  안녕하세요. 가상 면접 사례로 배우는 생성형 AI 서비스 설계 책을 읽어서 이에 대한 후기를 작성 하려고 합니다. 가상 면접 사례로 배우는 생성형 AI 서비스 설계   책을 고른 이유 이 책은 "가상 면접 사례"를 통한 머신러닝 혹은 시스템 디자인을 다루는 책의 시리즈 책인것으로 보입니다. 이전 책들에서 여러가지를 배웠고, 이번에 이 책이 2026년 3월에 한국어로 번역이 되었기 때문에 책을 구매하였습니다. 제가 업무적으로 생성형 AI를 직접 설계하지는 않지만, Machine Learning Engineer로서 언젠가는 할수도 있다고 보기 때문에 미리 알아보기 위함입니다.  책에서 다루는 내용 전반적으로 자연어 처리, GPT, 이미지, 비디오까지의 최신 생성형 알고리즘을 다룹니다. 서비스 설계에 중점 되어있기 때문에 각각의 도메인에 대하여 모델, 데이터 수집, 학습, 평가 등을 다루고 있습니다. 알고리즘 등에 대하여 자세히 다루고 있지만, 좀더 자세한 내용은 추가적으로 독자가 파악할수 있도록 레퍼런스를 잘 활용하고 있습니다.  추천하는 독자 생성형 AI와 머신러닝의 전체적인 구조를 이해하고 싶은 학부생이나 대학원생 Machine Learning Engineer, AI Engineer 등 관련 커리어를 준비하거나 종사하는 분 생성형 AI 시스템 설계 면접을 준비하는 분 생성형 AI 서비스가 어떻게 만들어지는지 개략적인 흐름을 알고 싶은 분 추천하지 않는 독자 머신러닝 모델이나 시스템 설계와 거리가 먼 직무를 가진 분 알고리즘이나 설계보다는 생성형 AI를 사용하는 방법만 알고 싶은 분 이미 생성형 AI 시스템 설계와 관련된 내용을 충분히 익히고 있는 분 안타까운점. 안타까운점으로는 여러가지 내용들이 반복되는 점이 있습니다. 이미지, 텍스트 등 도메인마다 차별점은 있으나, 큰 머신러닝이라는 점에서 아키텍쳐, 평가 등에서 반복되는 점이 있습니다. 이로 인해서 몇가지 내용들이 뒤로 가면서 반복되는 점이 있는데, 그런 내용들은 짧게만...

안녕하십니까. 제 개인 컴퓨터에 있는 자료를 정리하다 보니, 학부 3학년때 제출 하였던 인공지능 과제를 찾게 되어서 블로그 포스팅 합니다.  코드 링크 :  https://github.com/Myeongjoon/examples/blob/master/artificial%20intelligence/four_in_a_row.html (사실 코드는 대부분 짜지 않았다는 점..) 해당 인공지능 수업을 할 당시는 구글에서 알파고를 발표하였던 그시기였기 때문에 인공지능 수업이 핫하였고, 그중 게임 이론이 중심이었습니다. 인공지능에서 쉽게 다룰 수 있는 내용이 트리 구조를 통한 게임 인공지능 알고리즘이었고 자연스럽게 텀 프로젝트는 four-in-a-row를 통한 리포트가 되었습니다.  Four In A Row four in a row 라는 게임은 간단한 게임입니다.  테트리스 처럼 위에서 아래로 돌이 떨어지는 게임이고, 상대방과 내가 번갈아서 한번씩 돌을 사용 합니다. 위로 4줄, 옆으로 4줄, 대각선으로 4줄 어떤식이든 4개로 이루어진 줄을 하나를 만들면 게임에서 이기게 됩니다. 위의 사진에서 보면 파란색 돌 기준으로 대각선 하나가 4개의 돌로 되어 있고, 따라서 파란색 돌의 승리 입니다. Min Max 알고리즘 위의 게임의 인공지능을 구현하는데에 있어서 여러 방법이 있겠지만 수업시간에서는 민맥스 알고리즘을 중심으로 진행하였습니다.   민맥스 알고리즘은 최대 n번째 이후까지의 수를 예측을 합니다. 이는 두 플레이어가 최선의 수를 두는 것을 가정을 하며, 결국 누군가가 이기려면 그사람은 이길 경우가 가장 높은 수를 두고, 반대로 상대의 수를 예측을 하면 상대가 이길 경우가 가장 낮은 수를 예측을 해야합니다. 아래 사진은 Geekforgeeks 라는 사이트에서 가져왔습니다. 아래는 3개의 수까지 예측을 하는 경우 이며, 마지막 노드의 숫자들은 해당 경우의 수에서의 점수 입니다. 점수를 매기고 난 후에는 차례로 내차례에는 최대...

안녕하십니까. 이번 포스팅에서는 Tensorflow TFX 의 예제인 케라스 컴포넌트 튜토리얼 에 대하여 다룹니다. 코드는 제가 짠것은 아니고 텐서플로우 공식 코드를 가져온것이며 위의 링크에서 확인하실수 있습니다. TF Dev Summit 20 텐서플로우 Dev Summit에서 해당 튜토리얼에 대하여 간략하게 소개한적이 있습니다. 영어 동영상에 익숙하시면 해당 동영상을 보시는게 편하실듯 합니다. 예제 데이터 가져오기 해당 예제에서는 시카고 택시 공용 데이터 를 사용 합니다. 파이썬 코드에서 이를 사용하기 위해서 데이터를 불러 옵니다. _data_root = tempfile.mkdtemp( prefix = 'tfx-data' ) DATA_PATH = 'https://raw.githubusercontent.com/tensorflow/tfx/master/tfx/examples/chicago_taxi_pipeline/data/simple/data.csv' _data_filepath = os.path.join(_data_root, "data.csv" ) urllib.request.urlretrieve(DATA_PATH, _data_filepath) 시카고 택시 데이터의 컬럼은 아래와 같습니다. pickup_community_area fare trip_start_month trip_start_hour trip_start_day trip_start_timestamp pickup_latitude pickup_longitude dropoff_latitude dropoff_longitude trip_miles pickup_census_tract dropoff_census_tract payment_type company trip_seconds dropoff_community_area tips 해당 데이터를 통해서 마지막 데이터인 tips 데이터를 예측 하는것이 튜토...

안녕하십니까. 텐서플로우 TFX 에 대하여 공부하고 있어서 포스팅 합니다. 아래 포스팅은 텐서플로우 유투브의 tensorflow tfx에 대한 설명 에 기반 합니다. Tensorflow TFX 란? 텐서플로우 TFX(Extended)는 텐서플로우를 운영에서 구글급으로 서빙하기 위한 파이프라인 입니다. 일반적으로 머신러닝을 통해서 예측하는 시스템을 만든다고 가정을 하면 지속적으로 데이터를 관리해야 합니다. 또한 각 학습마다 모델의 성능을 측정할 수 있어야 하며 좋은 성능을 지닌 모델을 운영 환경에 바로 런칭 할 수 있는 플랫폼이 필요 합니다. 딥러닝 분야의 특성상 랜덤이라는 요소가 있으며 이는 모델, 데이터가 바뀌지 않아도 매 학습 결과에 따라서 성능이 바뀌게 됩니다. TFX 컴포넌트 텐서플로우 TFX는 아래과 같이 텐서플로우를 통한 머신러닝 운영 시스템을 구축하기 위한 플랫폼을 제공 합니다. 데이터가 들어오면 이를 북석하고, 텐서플로우에 사용할 수 있도록 변환을 합니다. 그후 모델 학습, 평가를 하고 결과에 따라 운영에 배포를한 후 텐서플로우 서빙을 진행 합니다. Tensorflow TFX Component Metadata Store 머신 러닝의 각 학습 결과, 학습 결과에 따른 평가 요소, 데이터 파이프라인 등은 어딘가에 저장이 되어야 합니다. 이러한 dev ops 적 요소를 tensorflow tfx에서 지원 합니다. Metadata-powered functionality 모델의 각 정보들을 저장함을 통해서 이전 모델의 결과와 현재 모델의 결과를 비교분석 할 수 있습니다. Warm Start 모델을 저장 할 수 있으니 엄청 오래걸리는 학습이라면 중간 저장을 한 후 다시 실행 할 수 있습니다. 오래 걸리는 학습은 중간 결과가 나쁘지 않으면 거기서 운영 배포를 하고 학습도 동시에 진행하는게 가능해 보입니다. 분산처리 프레임 워크 텐서플로우 또한 많은 데이터를 분산 처리를 하기 위한 프레임워크가 필요 합니...

구글에서 코랩 프로 라는 유료 구독형 클라우드 GPU 서비스를 출시 하였습니다. 기존에는 무료로 제공해왔던 Colab Pro를 유료로 전환한 것인데요. 아마 기존 무료의 혜택을 약간 줄이고 더 혜택이 좋은 유료 버전을 출시하여 수익을 창출 하려는 것이 목적인듯 합니다. Colab Pro  그래서 저도 또한 구독 해 보려고 합니다. 단순히 유료 버전이 나왔기 때문에 구독하는 것은 아닙니다. 개인 리서치, 업무적으로 Colab을 자주 쓰는데 요즘 많이 돌려서 그런지 아래와 같이 "백엔드를 할당하지 못했습니다." 라는 얼럿을 자주 받습니다. TPU이(가) 있는 백엔드를 사용할 수 없습니다. 가속기가 없는 런타임을 사용하시겠습니까? 아마 제가 몇시간 되는 작업을 자주 돌려서 그런듯 한데요. 법인 카드의 지원을 받을 수 있는 상태라 재빠르게 구독해 보려고 합니다. 공식 페이지에는 USA만 지원된다고 하였으나 한국에 거주하는 저도 무난하게 결제가 되었습니다. 아래와 같이 결제 완료 이후에 메일을 받게 되는데 미국 세금이 포함되어서(인지?) 10.62달러가 결제 되었습니다.  결제 완료 결제 이후에 아래 링크를 통해서 감지되는 GPU를 확인하도록 해줍니다. https://colab.research.google.com/notebooks/pro.ipynb 런타임 유형 확인 지침을 따라 아래와 같이 런타임 유형을 설정하였습니다. 무료 버전과는 다르게 "런타임 구성" 에 "고용량 RAM" 이 추가되었습니다. 고용량 RAM 런타임 구성 Tesla P100-PCIE 지침을 따르니 아래와 같이 Tesla P100-PCIE가 감지 되었습니다. 500만원 이상 하는 고가의 GPU 장비 입니다. 또는 T4 GPU로도 할당이 된다고 합니다. 일반 유저에게 지급되는 K80은 가격이 약 200만원 정도 합니다. ...