채록채록
[Developing] AWS Cloud Clubs, AI, Terraform 본문
241113에 AWS Cloud Clubs 교내 정기모임이 있었다. 동아리 이름은 AWS이지만 2학기때는 멤버가 돌아가면서 각자 발표하고 싶은 주제를 자유롭게 정하여 발표하기로 했기 때문에 이번주 모임의 발표자 학우님들은 AI와 Terraform을 주제로 발표했다.
정말 소규모의 발표여도 확실히 지식과 경험을 공유받는 일은 언제나 의미가 있다.
그래서 발표를 들으며 궁금했고 시도해보고 싶다 생각했던 내용을 블로그에 기록해두려고 한다.
세션1 : 전공자답게 생성형 AI 사용하기
이걸 엔지니어링이라고도 해도 되나 싶은 생각이 있었던 게 프롬프트 엔지니어링이었는데 발표를 들으며 생각이 많이 바뀌었다.
현장실습을 하고 있는 회사에서도 챗지피티를 쓸 일이 굉장히 많은데 (임베디드라 검색해서 나오는 자료가 많이 없다보니ㅠ)
난 그냥 이러저러하고 이러저러하니까 원인과 해결방법 알려줘 하는 정도로만 맨날 질문했는데 난 그냥 AI를 쓰고만 있었지 제대로 활용할 생각은 안했다는 점이 조금 부끄러워졌다.
- Chain of Thought를 어떻게 프롬프트에 제공하는가
- 이러저러한 방법이 있겠지만 가장 심플한 방법은 “Lets think step by step”을 붙이기.
- 되게 별거 아니니까 습관처럼 뒤에 저걸 붙여서 질문해보자.
- OpenAI의 prompt engineering guide 공식문서 읽어보기
- 미친 천재들이 만든 AI, 그리고 그걸 만든 사람의 공식 메뉴얼을 왜 읽어볼 생각을 안했을까?
- 공식문서를 읽는 것을 더 습관화하자.
- 최근에 pulseaudio에 대해서 리서치하다가 결국 돌고돌아 공식문서가 제일 잘 설명되어있다는 것을 깨달았었던 것처럼...
- RAG(Retrieval-Augmented Generation, 검색증강생성)에 대해
- LLM이 답변을 생성하기 전에 외부의 학습 데이터 소스를 참조하여 답변의 정확도를 높이는 방식이라고 한다. Hallucination을 줄이는 것.
- 문제가 생기면 보완방법을 발빠르게 내놓는게 IT세상인데 내가 그런 것에 너무 무지하고 깨어있지 않았음을 반성했다.
- 지피티에게 문서를 주고 이 문서에만 근거해서 답변하라고 하면 그게 RAG의 간접적 구현
- 그럼 Qualcomm의 그 방대한 양의 문서(application note 등...)를 주고 질문한다면 원하는 대답을 얻을 수 있을까? 해보아야겠다.
- 라고 생각하는 순간 그거 그래도 보안 걸려있는 문서인데 인공지능한테 넘겨줘도 되나 싶고...
- Perplexity : 대화형 검색엔진 서비스 AI
- google의 검색알고리즘은 파훼되었다 라는 의견을 본적도 있다. 아무래도 자료가 방대해졌으니 그럴만도 하고, 나도 자료를 검색하다보면 쓸모없는 자료를 읽다가 중간에 에잇 뭐야 했던 적도 많고... 오히려 정보가 너무 많으면 그 홍수에 휩쓸리기 쉬운데 정보를 걸러준다는 점에서 정말 편리할 수 있을 것 같다.
- 무조건 많이가 아닌, 질이 중요한 시대가 된 것 같기도하다.
- 역시 목적이 없는 기술 수집은 위험하다는 생각까지도 이어진다. 인문학을 이래서 읽어야한다라고 한다면 너무 간거겠지 응응 그래...
- google의 검색알고리즘은 파훼되었다 라는 의견을 본적도 있다. 아무래도 자료가 방대해졌으니 그럴만도 하고, 나도 자료를 검색하다보면 쓸모없는 자료를 읽다가 중간에 에잇 뭐야 했던 적도 많고... 오히려 정보가 너무 많으면 그 홍수에 휩쓸리기 쉬운데 정보를 걸러준다는 점에서 정말 편리할 수 있을 것 같다.
- Opensearch service : 오픈소스 검색 및 분석 서비스
- 이런 서비스가 있는 줄은 몰랐는데 그럼 miracast 오픈소스 분석도 좀 더 용이하게 할 수 있지 않을까 싶다.
- 혹은 bluez를 이용한 블루투스 애플리케이션 오픈소스도 찾을 수 있을지도...
- 친언니는 github에서 오픈소스 검색할 때 'awesome~"을 붙여서 찾는다고 했는데 그럴 필요도 없는 정도이려나? 꼭 써보며 확인해봐야겠다.
- yocto project meta layer에 대한 리서치도 가능할려나? 예를 들면 meta-flutter라던지... 그거 이해하느라 시간 엄청 쓰고 아직도 이해 못했는데...
- Bedrock : AWS에서 제공하는 인공지능 관련 자동화 서비스인 것 같음
- 다 이해하진 못했어도 잠깐 들어도 꽤 많은 프로세스를 자동화해주는 서비스인 것 같던데 임베디드쪽으로 도움될만한 서비스는 없나? 아니면 어떤 걸 자동화해주는 서비스가 있다면 임베디드 분야에서 유용하게 쓰일까?
- 라고 생각하는 순간...
- Aws Q developer : AWS 서비스에 대한 AI
- 얘를 쓰면 될 것...
- 그렇다는건 결국 내가 키워야하는 능력은 뭔가 검색하는 능력보다는,
- 내가 뭘 모르는지 / 뭐가 필요한지 아는 능력
- 인공지능 잘 쓰면 btapp/bluez/pulseaudio src같은 프로젝트를 기반으로 그 동작 프로세스를 이해하기 위한 질문을 하거나 원하는 기능/함수가 어디에 구현되어있는지 질의할수도 있겠다.
- github copilot, cursor 등은 원하는 파일 선택하면 나의 코딩스타일이나 프로젝트 자체를 이해해서 코드를 짜준다고 한다.
- Cline은 cli명령도 직접 한다는데 그럼 빌드 프로세스도 자동화할수 있을지도?
- 추가로 Aider, Continue도 있다.
세션2 : IaC: Terraform
이거 듣기까지 테라폼 써본적도 없고 뭔지도 잘 몰랐는데... 뭐 제대로하지도 않았지만 확실히 핸즈온을 하니 그냥 듣는거보다 무엇인지는 더 잘 각인되는 것 같다.
- 모듈에 대해
- 테라폼에도 모듈이란게 있다.
- 모듈이 정확히 무엇을 의미하는지 / 왜 여기선 어떤의미로 쓰인건지 / php 모듈이랑은 다른게 무엇인지 / 모듈작성한다는게 무슨 뜻이길래 내가 작성할수 있는 것인지 궁금해졌다...
- 그 이유는 pulseaudio에서도 모듈 개념이 등장하기 때문이다.
- .tfvar : 코드에서 사용할 변수의 값을 저장
- 하지만 뭐 tfvar을 기억하는게 중요한게 아니라 그런 파일이 있다는게 포인트이다.
- 왜냐하면 그런건 다른 툴/라이브러리/패키지에서도 다른이름으로 분명히 그 개념이 존재하기 때문이다...
- 예를들면 yocto의 local.conf, pulseaudio의 client.conf, 등등...
만약 이런걸 공유받지 않았다면 난 계속해서 회사에서 쓰는 거만 계속 쓰고 뭔가 다른 툴을 알아보려면 엄청난 에너지와 시간이 필요해서 결국 안했을 것 같다. 이런 지식공유가 참 좋다. 어차피 공부는 내가 해야되는거니까.
