AI 스타트업은 왜 연구 논문을 잘 공개하지 않을까

상업화 단계에 접어들면 학자들은 완성된 제품 시제품보다는 연구 가치가 있는 진척을 고민해야 함.

그 논문의 저자들은 모두 구글이 아닌 AI 기업들에 소속되어 있음.

AI 연구의 블로그화는 온갖 주장과 용어가 소셜 미디어 역학을 모방하여 유입되도록 만들었음.

비결정론으로 살고 비결정론으로 죽음.

기사가 논문에 나오는 기업들에 대해 어쩐지 모호함. 논문에서 오픈AI가 인용 횟수 최상단에 있음.

아니, 그는 아무것도 확실히 하겠다고 트윗한 적이 없음.

스타트업은 반드시 논문을 발행하기 위해서가 아니라 이윤을 위해 존재함.

아니오, 전통적인 연구는 주로 박사후연구원과 박사 학위 소유자가 수행함.

AI 시대에는 만족스러울 만큼 이득을 볼 때까지 아무것도 공개할 이유가 없음.

컴퓨팅 업계의 가치 중 상당 부분은 굳이 최초가 되려고 하기보다 일하는 법을 남에게 알려주기로 결심한 똑똑한 사람들이 만들었음.

가장 큰 차이는 속도임. 속도의 영향은 더 깊고 시간이 지남에 따라 체감됨.

그들은 그렇게 함. 앤트로픽 사건의 판사는 그것들을 파괴하는 것이 텍스트가 이전되는 것을 의미하므로 공정 이용이 될 수 있다고 말했음.

구글은 많은 것을 발행했음. 오리지널 트랜스포머 논문을 왜 공개하도록 내버려 두었는지 여전히 궁금함.

순수 기초 연구를 수행하는 두 곳의 스타트업에 있어 보았음. 첫 번째 곳은 3년 동안 일류 저널에 출판을 시도하다가 결국 포기했음.

아이러니는 이제 막 펼쳐지고 있을지도 모름. 2015년의 이 논문을 확인해보셈.

우리는 이미 10년 전에 그 목적지에 도착했음.

기사는 연구가 동료 평가를 거치지 않고 블로그로 변하고 있다고 불평하고 있음.

개인 직원에게는 저명한 저널의 심사 논문에 이름이 올라가는 것이 다른 곳 취업에 훨씬 유리함.

앨버타 대학의 AI 윤리학자 모하메드 압달라는 연구 결과가 과학적 규범의 실패라기보다는 상업적 개발자들이 직면한 유인 구조를 반영한다고 함.

다른 스타트업은 모르겠지만 YC 최신 배치에 지원하면서 논문을 발표했더니 영국의 교수와 연락이 닿았음.

그리고 결정적으로 당신은 다른 이들이 당신처럼 발전하기를 바래야 함.

기업들이 자신들의 기능 개발에 대한 기밀 정보를 공개할 것으로 기대할 수 없음.

오픈 데이터를 발행하는 사람들 중에는 남들이 돈을 벌지만 않으면 모든 게 괜찮다는 인식이 있는 것 같음.

대충 훑어봤을 때 이 논문은 제목을 보고 사람들이 품는 의문에 대해 형편없는 답변을 내놓고 있음.

그렇게 어렵지 않음. 경쟁 우위를 확보하기 위해 연구에 노력을 투자하는 것임.

연구를 공유하는 것이 중요한 부분이 아님. 이들은 경쟁이 치열한 분야의 민간 부문 연구원들임.

대형 연구소들이 출판을 멈춘 이유 중 하나임. 출판은 똑똑한 낯선이들의 관심을 끌 다른 방법이 없는 사람들에게 가장 가치 있음.

능동적이라는 게 무슨 뜻인지 궁금함. 좀 더 공유해 줄 수 있는지?

여러 사실이 동시에 성립할 수 있음. 동료 평가 출판 과정과 기준은 지루함. 지식의 효율적 소통이 목표라면 이는 최적의 과정이 아님.

답은 훨씬 더 간단하다고 봄. 그들은 특정 아키텍처의 잠재력을 알아보지 못했음.

다행히 현재의 AI는 반응형 루프로 상호작용함. 내가 먼저 프롬프트를 입력해야 출력이 나옴.

슬랙, 깃허브, 이메일 등을 모니터링하여 업무 우선순위를 정해주는 이런 종류의 것에 관심이 많음.

오픈클로에 대해 처음 들었을 때 정확히 내가 생각했던 것임. LLM 호출을 최소화하도록 백엔드가 설계됨.

주론하건대 스타트업의 목적은 돈을 버는 것이 아니라 관심을 끌고 투자자를 모으는 것임.

일정한 시간마다 혹은 이벤트에 따라 자동 메시지를 보내는 것이 무엇이 그리 혁신적인가?

학계는 출판하고 산업계는 안 한다는 관점은 잘못된 것임.

좋은 지적임. 내 작은 언어 모델을 학습시킬 때 발생했던 일화가 있음.

오픈클로를 몇 달간 써봤는데 핵심 차이는 크론 잡을 직접 설정해야 한다는 점임.

GNU 연구 공중 라이선스(RPL), 즉 바이러스성 지식 라이선스임.

염료에 돈이 되기 전까지 화학자들은 자유롭게 출판했음. 주목할 점은 이것이 정확히 특허가 막으려는 대상이라는 것임.

농담이었고 분명 바보 같은 소리지만 라이선스 제공자가 계약을 해지하고 손해배상을 청구할 수 있는 범위 내에서는 집행 가능하다고 봄.

분야에 따라 다르지만 미국 특허 제도의 결함 중 하나는 많은 특허가 실제 결과를 재현할 만큼 충분한 세부 정보를 제공하지 않는다는 점임.

계약 해지라니 무슨 뜻인가? 사람들의 머릿속에서 아이디어를 회수하겠다는 건가?

이게 무슨 뜻인가? 돈이 없는 투자자란 어떤 이들인가?

미국의 연구원 수는 늘어나는데 성장이 정체된 것을 다룬 좋은 논문이 있었음.

어째서 동료 평가에 시간을 낭비하겠는가?

구글은 초기 스타트업 시절부터 최첨단 연구를 출판해 왔음.

비경쟁 조항이나 NDA를 집행할 수 없어도 기업들이 연구자에게 돈을 줄 유인을 원한다는 것인가?

물리학이나 수학을 제외하면 출판된 연구 중 상당수는 전혀 재현 불가능함.

이전에 쓰이던 파란색 안료들에 무슨 문제가 있었고 왜 이 안료에 독점 라이선스가 걸렸는지 궁금해짐.

능동적이라는 게 무슨 뜻인지 궁금함. 조금 더 공유해 줄 수 있는지?

일류 저널들은 기준이 높아서 매 주기마다 수백 건의 제출을 받음. 거절당하는 것은 흔한 일임.

사악한 중국이 훔쳐 갈 테니까... (반어법)

하하, 나는 1984년에 RMS에게 카피레프트 스티커를 우편으로 보낸 적이 있음.

당신은 추상화 수준을 섞어서 다른 이야기를 하고 있음.

추가로 붓을 핥지 말 것. 코발트 중독은 무서워 보이지만 링크된 위키백과에는 위험성이 보이지 않음.

일리가 있음. 최신 알고리즘을 공개하면 기본적으로 경쟁 상대를 돕는 것이고 아무것도 돌려받지 못함.

대부분의 연구가 경쟁 연구실에 의해 즉시 활용된다는 점을 고려하면 놀랄 일이 아님.

내 아내가 그들의 디자인을 좋아해서 접시와 그릇을 가지고 있음. 직접적인 건강 위험은 잘 모르겠음.

연구의 문제는 파생물이 아니라 참신한 저작물을 만들어야 한다는 점임.

창의성이 없는 사업가와 미팅을 한 적이 있음. 공개된 논문은 유사한 사람들에게 이점을 줌.

일류 저널에 출판을 시도해 본 적이 있는지 묻고 싶음. 일류 저널은 들어가기 매우 어려움.

때에 따라 다름. 잠재적으로 수십억 달러를 조달하고자 한다면 논문을 통해 GenAI 분야의 SOTA 수준에 기여하고 있음을 보여주는 것이 좋은 전략일 수 있음.

그가 하는 주장은 오픈소스에 적용되지 않고 프리웨어에 적용된다는 점임.

매운 의견이지만 저작권법은 특허와 비슷하게 개혁되어야 함.

여기서 아주 기초적이고 근본적인 수준에서 틀렸음. 탐색에 실패했다고 해서 거기가 막다른 길이라는 뜻은 아님.

학술 출판이라는 서커스는 노력할 가치가 없음. 궁극적으로 기업은 돈을 벌어야 함.

스타트업이 얼마나 많은 연구를 해야 하는가? 스타트업의 목적은 연구의 제품화를 가속하는 것이 아님?

법적 관점에서 왜 그런지 모르겠지만 지난 10년 동안 기술 산업은 특허에 신경을 쓰지 않는 것 같음.

스타트업 생태계도 5~10년 전과 비교해 눈에 띄게 변했음. 코드를 배포하는 장벽이 제로에 가까워짐.

A의 왼쪽 가지가 막다른 길이라고 말하는 과학자의 무능을 가정하고 있음.

혁명은 하룻밤 사이에 일어나기보다 점진적인 성격에 가까움.

정보가 기밀이자 독점인 한 내 조언이 적용되는 세상에서 살게 됨.

논문 출판은 그냥 올리고 끝나는 것이 아님. 보통 학회에서 연구를 네트워킹함.

민간 기업들은 수익 창출로 평가받으며, 이는 경쟁력 있는 제품에 달려 있음.

주말 동안 여러 SaaS 제품의 유튜브 튜토리얼을 분석했음. 코딩 에이전트를 통해 API를 정의해 봄.

노다지임!

솔직히 이 분야의 어려움 중 일부는 다른 모든 이들이 몇 주 안에 스스로 알아내는 수준의 획기적인 일을 하지 않는다는 점임.

그것은 1998년에 출판된 것으로 보이며, 페이지랭크 특허 출원 연도이기도 함.

재귀적 자기 개선은 개선 폭이 충분히 클 때만 본격적으로 시작됨.

정말 멋짐. 나도 비슷한 것을 만들고 있지만 반대 방향에서 시작했음.

정보는 자유로워지고 싶어 한다는 말은 가치 있는 정보를 만들기 위해 노력해 본 적이 없는 사람들만 함.

돈을 위해 하는 것과 투자자의 관심을 끌기 위해 하는 것 사이에 차이가 없다고 말하는 것임.

특허 제도는 여기서 꽤 유용한 타협안임.

내 걱정은 학습과 혁신임. 기업들이 물리적 장치를 팔았을 때는 다른 기업들이 배우고 개선할 수 있었음.

안타깝게도 우리는 점점 더 복잡해지는 세상에 살고 있으며 진실이 흐려지고 있음.

학계는 적응에 실패하고 있음. 과거에는 저널이 기술 혁신을 배울 수 있는 유일한 곳이었지만 지금은 소스코드나 데이터를 바로 확인하는 편이 나음.

좋은 연구자들도 그런 것들은 무시함. 시중에 나오는 연구 대부분이 쓰레기이기 때문임.

연구에는 다양한 유형이 있음. 인공지능의 부정적 결과는 물리학의 마이컬슨-몰리 실험처럼 어떤 것의 부재를 적극적으로 입증할 수 있는 성격이 아님.