전체 글 (94) 썸네일형 리스트형 AI 에이전트가 엉뚱한 UI를 고친다면, 현재 화면부터 읽게 하자 AI 에이전트가 엉뚱한 앱 화면을 수정한다면, 행동 전에 실제 화면 상태를 조회하는 도구를 붙일 필요가 있다. Meta는 Forum 개발에서 시뮬레이터의 화면 계층과 실제 요소, 대상 화면으로 가는 경로를 읽게 해 이런 혼동을 줄였다고 설명한다.Forum 개발 사례에는 구체적인 실패 장면이 나온다. 그룹 홈 화면을 고치라고 했는데 에이전트는 전체 홈 피드를 수정하거나 화면 좌표를 추측했다. 요구한 기능을 이해하는 일과 지금 어느 화면을 다루는지 아는 일이 따로였던 셈이다.화면 설명을 행동 직전의 조회로 바꾼다Meta가 제공한 도구는 실행 중인 화면을 직접 확인하는 쪽이었다. 시뮬레이터는 앱을 띄워 동작을 확인하는 환경이고, 뷰 계층은 그 화면을 이루는 요소들이 어떤 부모·자식 관계로 배치됐는지 보여 주는.. MySQL 캐시에서 빈 결과가 나온 이유: 같은 쿼리, 다른 응답 형식 MySQL 쿼리 결과가 간헐적으로 비어 나온다면 캐시 안의 응답 형식도 확인할 대상이다. Cloudflare Hyperdrive에서는 두 노드가 같은 캐시를 쓰면서 서로 다른 형식의 바이트를 저장했다. 같은 쿼리 키로 찾은 응답이라도 읽는 쪽이 기대한 형식과 맞지 않았다.Cloudflare가 공개한 장애 분석에서 증상은 드물지만 꾸준했다. 결과가 있어야 하는 쿼리가 약 0.001%의 빈도로 빈 응답을 돌려줬다. 이 수치는 해당 고객 환경에서 관찰한 발생 빈도다. 조사팀은 추적 수집 비율을 높이고 네트워크도 살폈지만 직접적인 실행 기록을 잡기 어려웠고, 캐시를 켠 인스턴스에서만 발생한다는 단서에 주목했다.응답을 저장한 노드에 따라 바이트가 달라졌다Hyperdrive는 여러 요청이 데이터베이스 연결을 재사용.. 보안 경고를 Copilot에 맡기면 어디까지 고쳐줄까? GitHub의 보안 경고 자동 수정은 코드 제안에서 끝나지 않는다. Copilot이 관련 파일을 탐색해 수정하고 CodeQL을 다시 실행한 뒤 초안 PR을 만든다. 다만 맡길 수 있는 대상은 기본 브랜치의 경고이며, 생성된 변경을 병합할 판단은 리뷰어에게 남는다.GitHub가 10월 15일 정식 출시한 agentic autofix는 취약점을 찾는 일과 고치는 일 사이의 반복을 맡는다. CodeQL은 코드의 보안 문제를 분석하는 도구다. 이 기능을 도입하려면 ‘무슨 코드를 생성하나’와 함께 ‘어떤 경고를 넘길 수 있나’를 먼저 구분해야 한다.PR에서 발견한 경고와 기본 브랜치 경고는 다르다출시 안내에서 지정한 대상은 저장소 기본 브랜치의 코드 스캐닝 경고다. 기본 브랜치는 보통 main처럼 저장소가 기준으.. AI 코드 탐색의 반복 비용 줄이기: Netflix가 인덱스를 유지한 방식 AI 코딩 에이전트의 코드 탐색에 언어 서버를 붙인다면, 도구 호출과 서버의 수명을 나눌 필요가 있다. 호출할 때마다 서버를 다시 시작하는 구조에서는 이미 만든 인덱스가 있어도 반복 초기화 비용이 붙는다. Netflix는 짧게 끝나는 CLI와 계속 실행되는 데몬을 분리해 이 문제를 다뤘다.JetBrains가 공개한 Netflix 사례의 출발점은 Java·Kotlin 코드와 컴파일된 라이브러리 파일인 JAR를 넘나드는 탐색이었다. 에이전트가 필요한 라이브러리를 추측해 압축을 풀고 코드를 찾아다니는 대신, IDE가 사용하는 코드 인덱스에 질의할 수 있게 한 것이다. 개발 화면을 열지 않는 헤드리스 환경에서 동작하는 구조다.CLI는 끝나도 프로젝트 인덱스는 남는다Netflix가 연결한 엔진은 IntelliJ .. Copilot HydraFusion 업데이트: 초안과 검토의 추론 수준이 달라졌다 Copilot HydraFusion은 초안을 만들 때와 검토할 때의 추론 수준을 따로 배정하도록 바뀌었다. 모델 하나를 고르는 기능보다, 어떤 작업에 추가 검토를 붙일지 정하는 방식에 가깝다. 새 Max 옵션을 선택할 때도 이름보다 늘어나는 검토 단계와 사용량을 함께 봐야 한다.GitHub의 10월 14일 변경 안내에 따르면 초안에는 medium, 검토에는 high 수준의 추론을 적용한다. 이전에는 각 모델의 기본 추론 수준만 사용했다. medium과 high는 사고에 들이는 강도의 이름이며, 결과의 정확성은 실제 검증으로 판단한다.달라진 것은 모델 목록보다 검토 경로다HydraFusion은 작업에 맞는 모델과 실행 패턴을 조합해 최종 응답 하나를 돌려주는 시스템이다. 사용자에게 하나의 답이 보여도, 내.. Meta FPF: GPU를 여덟 경로로 연결하면 장애 대응이 달라진다 AI 학습 클러스터에서 GPU의 통신 경로를 여러 갈래로 나누면, 장애 대응은 스위치 설정만의 일이 아니게 된다. 독립된 경로를 마련하는 것에 더해, 호스트가 고장 난 경로를 피하도록 송신을 제어해야 한다. Meta의 FPF는 이 두 역할을 함께 바꾼 설계다.Meta가 공개한 FPF 구성에서는 GPU 하나가 독립된 100G 링크 여덟 개로 서로 다른 스위치에 연결된다. 각 링크가 별도 네트워크 평면을 맡는다. 여기서 평면은 화면이나 공간이 아니라, 트래픽이 나뉘어 흐르는 네트워크 경로의 묶음을 뜻한다.100G 링크 여덟 개가 말해 주는 것이 구성을 ‘더 빠른 연결 여덟 개’로만 보면 중요한 차이를 놓친다. 100G 링크 여덟 개의 명목 속도를 더하면 800G지만, 실제 학습 처리량이 그만큼 나오는지는 별.. 자연어 질의 생성의 토큰 줄이기: 예시는 넓게, 스키마는 좁게 자연어를 내부 검색 질의로 바꾸는 기능에서는 관련 예시와 필요한 스키마를 따로 골라 입력 토큰을 줄일 수 있다. 예시는 여러 후보를 찾은 뒤 다시 정렬하고, 데이터 구조는 해당 요청에 필요한 정의만 상세하게 넘기는 방식이다.AWS가 공개한 Orca의 Discovery AI 사례가 이 구분을 보여 준다. Orca의 보안 검색 시스템 Sonar는 900개가 넘는 데이터 모델을 다룬다. 여기서 모델은 LLM이 아니라 클라우드 자원이나 애플리케이션 같은 객체 유형이다. 같은 검색창이라도 사용자의 질문에 따라 필요한 정의는 달라진다.검색 후보와 생성 입력을 같은 크기로 잡지 않는다이 시스템이 찾아오는 것은 일반 설명 문서만이 아니다. 자연어 질문을 실제 Sonar 필터로 변환했던 검증된 질의 예시다. 비슷한 질문.. AI 코드 평가가 만점인데 빌드에 실패했다면, 채점 기준을 의심하자 AI가 만든 코드가 평가에서는 만점인데 빌드에 실패했다면, 모델을 바꾸기 전에 채점 기준을 살펴볼 필요가 있다. 코드가 요구한 기능을 구현했는지와 실제로 실행되는지는 다른 검증이다. 점수 하나로 합치기 전에, 잘못된 결과를 평가가 제대로 걸러내는지 확인해야 한다.Microsoft는 AX Practitioner Playbook을 소개한 글에서 컴파일되지 않은 코드에도 만점을 준 평가를 관찰했다고 밝혔다. 특정 플랫폼을 사용했는지 묻는 항목이 실제 사용 여부와 무관하게 통과한 경우도 있었다. 평가를 많이 돌리는 것만으로는 이런 잘못된 기준이 드러나지 않을 수 있다.‘사용했다’는 채점 항목이 너무 넓을 때예를 들어 개발용 라이브러리인 SDK를 지정하고 코드를 생성하게 했다고 하자. 평가 항목을 ‘대상 SDK를.. 이전 1 2 3 4 ··· 12 다음
