大模型生產(chǎn)力工具的思考與實(shí)踐

大模型生產(chǎn)力工具的思考與實(shí)踐演講人：賈安亞商湯科技產(chǎn)品總監(jiān)、小浣熊家族產(chǎn)品負(fù)責(zé)人從大模型變革之路到高效“煉丹”指南

成本優(yōu)化實(shí)踐掃碼領(lǐng)取你的智囊團(tuán)咨詢購(gòu)票查看詳情

AI

Agent關(guān)

于AI的高頻問(wèn)題

RAG都能在這里找到答案AI智

駕AI

Native產(chǎn)品創(chuàng)新與技術(shù)落地InfoQ極客傳媒多模態(tài)01市場(chǎng)發(fā)展與用戶態(tài)度InfoQ極客傳媒GenerativeAlcan

increasedeveloperspeed,but

lesssoforcomplextasks.TaskcompletiontimeusinggenerativeAl,%■Without

generative

Al■With

generativeAl100<1020-308035-4545-506040200Code

documentationMcKinsey&CompanyDeveloper

tools/Curently

UsingAl

inthedevelopmentworkflow82%67.5%56.7%40.1%34.8%30.9%27.2%13.2%12.2%5.3%4.5%Source:survey.stackoverflow.co/2024

DatalicensedunderOpenDatabase

License(ODbL)6

0

%

以

上

開(kāi)

發(fā)

者

正

在

使

用Al

編程助手

獨(dú)立任務(wù)對(duì)比實(shí)驗(yàn)中總體工作時(shí)間減少55%Al生產(chǎn)力工具海外應(yīng)用現(xiàn)狀(以編程助手為例)WritingcodeSearchfor

answersDebuggingandgetting

help

DocumentingcodeGeneratingcontentorsynthetiLeaming

about

a

codebaseTestingcodeCommittingandreviewingcodeProjectplanningPredictiveanalyticsDeploymentandmonitoringAlInfoQ

極客傳媒*StackOverflow:2024Developer

Survey**McKinsey

Digital:Unleashing

developer

productivity

with

generativeCodegenerationCode

refactoringHigh-complexitytasks自2024

ve

per60%的參與者認(rèn)為ChatGPT對(duì)他們的滿意度產(chǎn)生了中等程

度的積極影響。尤為顯著的是，它使人們感知到了生產(chǎn)力的提

升，減少了重復(fù)性工作，而并未帶來(lái)顯著的壓力影響。此外，其他反饋突出了ChatGPT

在助力工作開(kāi)展、幫助學(xué)習(xí)

新知以及便捷地獲取有效信息等方面所起的作用，與傳統(tǒng)工具相比優(yōu)勢(shì)明顯。RepetitiveworkPerceivedproductivityAbilitytoachievegoalsTimetocompletetasksLearninguseful

skillsTrainingforeng.technologiesImpactfulworkStressNegatively

No

impact

Positively發(fā)揮Al

優(yōu)勢(shì)

助力代碼開(kāi)發(fā)揚(yáng)長(zhǎng)補(bǔ)短的使用能力——解決痛點(diǎn)新的解決問(wèn)題的體驗(yàn)——

減輕壓力Fig.2.ChatGPT'sinfluenceonaspects

of

developers'job

satisfactionFinding

2——60%of

participantsperceived

amoderatelypositive

impact

ofChatGPT

ontheir

satisfaction.Notably,it

enhanced

perceived

productivity

and

reduced

repetitive

work,with

stress

beingidentified

as

the

least

affected

factor.Furthermore,other

responses

highlighted

ChatGPT'sfacilitation

ofactivities,support

in

learning,and

provision

ofeffective

access

to

informationcompared

to

traditional

tools.

Al生產(chǎn)力工具海外應(yīng)用現(xiàn)狀(以編程助手為例)5%19%8%15%7%

19%8%

17%

15%

22%14%33%18%

43%16%

52%InfoQ極客傳媒63%52%39%32%76%77%73%74%關(guān)

鍵

發(fā)

現(xiàn)AI

代碼生成工具在發(fā)展過(guò)程中面臨的挑戰(zhàn)主要集中在用戶體驗(yàn)、技術(shù)發(fā)展、技術(shù)提升

的難點(diǎn)以及市場(chǎng)適應(yīng)性等方面。解決這些痛點(diǎn)需不斷的技術(shù)創(chuàng)新、市場(chǎng)反饋和經(jīng)驗(yàn)積累。通過(guò)持續(xù)優(yōu)化算法模型、增強(qiáng)用戶交互設(shè)計(jì)等，可逐步克服這些挑戰(zhàn)中國(guó)AI代碼生成行業(yè)發(fā)展痛點(diǎn)口易用性·開(kāi)發(fā)人員在使用智能代碼生成工具時(shí)，面臨易用性問(wèn)題·工具通常是半自動(dòng)化的，效率提升有限，不能完全替代人工·需要找到自動(dòng)化和人工之間的平衡口開(kāi)發(fā)能力增值·除了提升效率，工具是否能在更多場(chǎng)景和開(kāi)發(fā)能力維度上提供增值價(jià)值是待解決的問(wèn)題口軟件生態(tài)融合·

目前的軟件生態(tài)需要進(jìn)行大量融合工作，以提高兼容性·需要時(shí)間和用戶反饋來(lái)不斷完善和選代口經(jīng)驗(yàn)累積和場(chǎng)景豐富度·相對(duì)于國(guó)外成熟的市場(chǎng)，中國(guó)AI代碼生成工具起步較晚，需要時(shí)間積累經(jīng)驗(yàn)和豐富開(kāi)發(fā)場(chǎng)景國(guó)際AI代碼生成廠商Microsoft

Googlle亞馬遜云科技

tabnineDeepMind

*sourcegraph國(guó)

際

廠

商在

At

代

碼生

成產(chǎn)

品

行

業(yè)

通

常

依

托

深中厚國(guó)

廣

商

，

起

步

相

對(duì)

較

晚

但

發(fā)

展

迅

速

，

憑

借

本

土

市

的

技

術(shù)

積

累

與

廣

泛的

研

發(fā)

合

作，

產(chǎn)品

代

表

需求洞察與創(chuàng)新技術(shù)融合，聚焦提升

編

程

效率與GitHub

Copi

lot、Tabnine

等

安

全

性

，

注

重

工

具的

全

場(chǎng)

景

適

應(yīng)性

與

國(guó)

產(chǎn)化

特色

：-SaaS服務(wù)模式大客戶定制CAGR:37.55%30026417611688725202027E2028E

Al編程助手在國(guó)內(nèi)處在快速發(fā)展階段中國(guó)AI代碼生成廠商s

一

阿里云

智譜

A

Baidu百度愁態(tài)

騰訊云口跨語(yǔ)言跨平臺(tái)兼容性·開(kāi)發(fā)原理和編程語(yǔ)言不斷升級(jí)選代，跨語(yǔ)言跨

平臺(tái)開(kāi)發(fā)需要更好的兼容性·調(diào)試兼容環(huán)境是技術(shù)測(cè)試中需要解決的一部分

口代碼生成技術(shù)·未來(lái)代碼生成可能通過(guò)腳本方式完成整個(gè)代碼

的生成·

目前技術(shù)在復(fù)雜任務(wù)方面仍有提升空間口降低使用門檻·智能代碼生成器仍需要一定技術(shù)基礎(chǔ)，進(jìn)入門檻有待降低·需要考慮如何使初級(jí)用戶更容易上手和使用這

些工具口適用人群擴(kuò)展·

目前的工具主要面向有一定開(kāi)發(fā)基礎(chǔ)的用戶沙利文：2024年中國(guó)Al代碼生成市場(chǎng)報(bào)告InfoQ

極客傳媒QCon全球軟件開(kāi)發(fā)大會(huì)單位：[億元]中游2026E20232024E2025E150

個(gè)人用戶視角演變(以編程助手為例)關(guān)注模型精度

關(guān)注端到端用戶體驗(yàn)(

Multi-task

Language

UnderstandingMulti-task

Language

Understandingon

MMLULeaderboard

Dataset

主要問(wèn)題1:傳統(tǒng)IDE的接口限制了Al的使用主要問(wèn)題2:基于項(xiàng)目級(jí)

的開(kāi)發(fā)，模型+RAG

的方

案如何交互升級(jí)解題思路：基于開(kāi)源VS

Code重構(gòu)IDE解題思路：更靈活快捷的文檔引用和檢索，以及多文件的Cursor

Composor等方案解題思路：產(chǎn)品交互升級(jí)，用戶界面自適應(yīng)用戶

習(xí)慣、一鍵導(dǎo)入IDE

擴(kuò)展、新用戶引導(dǎo)etc.InfoQ

極客傳媒◆衍生問(wèn)題：用戶慣性如何

切換到新的IDECURSORreplit代碼小浣熊

CoRaccoonOthermodels←

ModelswithhighestAwerage

00

企業(yè)落地視角演變(以編程助手為例)全面探索從輔助開(kāi)發(fā)人員到全生命周期建模架構(gòu)設(shè)計(jì)API設(shè)計(jì)摘維航品API定義領(lǐng)域模式維

監(jiān)

元限界上下文設(shè)計(jì)模式概要設(shè)計(jì)文檔產(chǎn)品設(shè)計(jì)特性設(shè)計(jì)開(kāi)發(fā)計(jì)劃用戶調(diào)研功能細(xì)分!必優(yōu)先級(jí)產(chǎn)品定義非功能需求發(fā)布計(jì)劃里程碑設(shè)計(jì)需求規(guī)格文檔計(jì)劃文檔詳細(xì)設(shè)計(jì)編碼編碼后代碼設(shè)計(jì)代碼生成代碼審查詳細(xì)設(shè)計(jì)文檔單元測(cè)試生成提交信息》》》部署部署腳本生成產(chǎn)品設(shè)計(jì)日志分析

擄帷

游

份

折測(cè)試用例設(shè)計(jì)系統(tǒng)/集成用例

生成缺陷分析根因分析發(fā)布自動(dòng)化測(cè)試測(cè)試代碼生成InfoQ極客傳媒V4.0V5.0缺陷文檔產(chǎn)品設(shè)計(jì)代碼開(kāi)發(fā)架構(gòu)設(shè)計(jì)更新文檔缺陷分析發(fā)布文檔交付運(yùn)維測(cè)試2022

2024InfoQ

極客傳媒Dynamic

Prompting微調(diào)

——自適應(yīng)提示從頭構(gòu)建重新訓(xùn)練模型微調(diào)開(kāi)源模型微調(diào)現(xiàn)有模型Multi-model

PromptingFew-shot

PromptingZero-shotPrompting提示工程

企業(yè)落地視角演變重新訓(xùn)練或從頭構(gòu)建成本

高成

本

低0產(chǎn)品價(jià)值與應(yīng)用落地InfoQ極客傳媒從需求到服務(wù)的業(yè)務(wù)閉環(huán)視角解構(gòu)、重構(gòu)多部門活動(dòng)、協(xié)作和流程解決資產(chǎn)沉淀難、規(guī)范落地難，技術(shù)債務(wù)積累多等問(wèn)題

軟件研發(fā)助手：對(duì)企業(yè)級(jí)軟件研發(fā)的三重價(jià)值能更快產(chǎn)生需求么L3探索新的

研發(fā)模式L2積累優(yōu)質(zhì)

研發(fā)資產(chǎn)L1增強(qiáng)當(dāng)前

工作效率生產(chǎn)力決定生產(chǎn)關(guān)系個(gè)人能更快交付么提升編碼效率、縮短走查時(shí)長(zhǎng)、減少測(cè)試成本等企業(yè)團(tuán)隊(duì)InfoQ極客傳媒對(duì)

企

業(yè)

的

價(jià)

值代碼補(bǔ)全·

多編程語(yǔ)言支持·倉(cāng)庫(kù)級(jí)信息抓取*開(kāi)發(fā)協(xié)助**·

CommitMessage生成·

智能體/自定義智能體對(duì)話問(wèn)答·

代碼和技術(shù)相關(guān)問(wèn)題問(wèn)答*·

基于知識(shí)庫(kù)的知識(shí)問(wèn)答*·

內(nèi)置代碼任務(wù)：·

代碼重構(gòu)·

代碼翻譯·

代碼糾錯(cuò)·

單元測(cè)試生成RAG

方案帶來(lái)實(shí)用性躍進(jìn)★*Agent

方案帶來(lái)功能擴(kuò)展詢問(wèn)/指令回復(fù)提示合成大模型回復(fù)信息操作計(jì)算Embeddings33B

向量數(shù)據(jù)庫(kù)Embedding—→

軟件研發(fā)助手：面向開(kāi)發(fā)者的應(yīng)用形態(tài)代碼倉(cāng)LSP文檔分塊InfoQ

極客傳媒

軟件研發(fā)助手：面向開(kāi)發(fā)者的應(yīng)用形態(tài)規(guī)劃記憶詢問(wèn)/指令操作回復(fù)響應(yīng)/調(diào)用請(qǐng)求結(jié)果/報(bào)錯(cuò)計(jì)

算Embeddings提示合成向量數(shù)據(jù)庫(kù)大模型回復(fù)信息Embedding網(wǎng)絡(luò)檢索

API

調(diào)用代碼運(yùn)行沙盒回復(fù)中的「調(diào)用」或「代碼執(zhí)行」請(qǐng)求代碼倉(cāng)LSP文檔分

塊InfoQ

極客傳媒工具調(diào)用

代碼執(zhí)行

軟件研發(fā)助手：面向開(kāi)發(fā)團(tuán)隊(duì)的應(yīng)用形態(tài)集成開(kāi)發(fā)環(huán)境→)

C-

Devops平臺(tái)更多外部系統(tǒng)InfoQ

極客傳媒概要設(shè)計(jì)項(xiàng)呂背景系統(tǒng)日標(biāo)系統(tǒng)約束用安規(guī)劃系決技不架構(gòu)數(shù)據(jù)架構(gòu)安全設(shè)計(jì)邏輯推理提示詞工程詳細(xì)設(shè)計(jì)系統(tǒng)概述設(shè)計(jì)質(zhì)面一編碼規(guī)范瀆設(shè)計(jì)網(wǎng)絡(luò)結(jié)構(gòu)異常處理運(yùn)行設(shè)計(jì)長(zhǎng)文本理解

擴(kuò)寫與續(xù)寫軟件測(cè)試測(cè)試報(bào)告項(xiàng)目背景測(cè)試范圍測(cè)試策略測(cè)試環(huán)境測(cè)試案例測(cè)試結(jié)果風(fēng)險(xiǎn)分析測(cè)誠(chéng)結(jié)論接口調(diào)用

Agent編排測(cè)試用例案例序號(hào)案例名稱正例/反例例描述前置條件步驟描述預(yù)期采優(yōu)先級(jí)測(cè)試用例執(zhí)行結(jié)果模型微調(diào)思維鏈提示需求分析需求規(guī)格設(shè)計(jì)項(xiàng)目背景功能清單接口清單功能拱述功能流程功能界面接口說(shuō)明非功能需求多輪對(duì)話RAG知識(shí)資產(chǎn)行業(yè)背景術(shù)語(yǔ)&縮略詞業(yè)務(wù)知識(shí)業(yè)務(wù)流程業(yè)務(wù)角色異常處理系統(tǒng)知識(shí)系統(tǒng)構(gòu)成接口定義交互規(guī)范

軟件研發(fā)助手：面向企業(yè)級(jí)的應(yīng)用形態(tài)代碼編寫編碼實(shí)現(xiàn)單澆測(cè)試測(cè)試用例模板InfoQ極客傳媒架構(gòu)設(shè)計(jì)自然語(yǔ)言

大模型代碼業(yè)務(wù)目標(biāo)人機(jī)界面

工具&插件

運(yùn)行環(huán)境大模型當(dāng)下最好的產(chǎn)品形態(tài)是Copilot,不是完全替代人開(kāi)源~快速交付、基本提效

管理~盤活資產(chǎn)、團(tuán)隊(duì)提效

發(fā)展~結(jié)構(gòu)優(yōu)化、轉(zhuǎn)型提效大模型產(chǎn)品是否能完全替代人?最直接的能給企業(yè)帶來(lái)什么收益?

大模型賦能企業(yè)經(jīng)驗(yàn)總結(jié)如何促進(jìn)全員使用大模型原生產(chǎn)品?

管理要求與員工主動(dòng)相結(jié)合，從后向前持續(xù)推進(jìn)，激勵(lì)員工貢獻(xiàn)方法與資產(chǎn)需求描述創(chuàng)意想法InfoQ

極客傳媒R功能創(chuàng)新與技術(shù)創(chuàng)新InfoQ極客傳媒

降低用戶使用門檻，提升端到端效果Prompt

優(yōu)化(外化COT)+Constrained

Decoding+

(內(nèi)化COT?)更

新

人

設(shè)

模

板人設(shè)名稱數(shù)據(jù)分析工程師提示模板你是一個(gè)數(shù)據(jù)分析工程師，你處理的數(shù)據(jù)會(huì)默認(rèn)把所有空值填寫為0一鍵生成StructureofGSM8Kquestion.Question.o:There

are

15trees

in

the

groveGroveworkerswillplanttreesinthegovetoday.Aftertheyaredone,therewill

be21trees.How

many

trees

didthegroveworkersplanttoday?A:There

are

15trees

originally.Thenthere

were21treesafter

somemorewere

planted.So

there

musthave

been21-15=6.The

answer

islmatching

GSM8K

answer.d\.\\-=\+,\?/150,7001GSM8K

questioninJSON

format."question":"There

are15trees

in

the

grove.Grove

workerswill

plant

trees

inthe

grove

today.After

theyaredone,there

willbe

21

trees.How

many

trees

did

the

groveworkers

plant

today?","response":{"reasoning":"There

are15trees

originally.Then

therewere

21

trees

after

some

more

wereplanted.Sotheremusthave

been21

-

1

5=

6.

","answer':3,人設(shè)名稱數(shù)據(jù)分析工程師提示模板作為數(shù)據(jù)分析工程師，我的工作是利用先進(jìn)的技術(shù)和工具來(lái)提取、轉(zhuǎn)換和加載數(shù)據(jù)，以便于深入分析

和洞察業(yè)務(wù)趨勢(shì)。以下是我在數(shù)據(jù)分析領(lǐng)域的核心能力；更

新

人

設(shè)

模

板#能力1:數(shù)據(jù)清洗與預(yù)處理我能識(shí)別并處理數(shù)據(jù)中的異常值、缺失值和重復(fù)項(xiàng)，確保數(shù)據(jù)的準(zhǔn)確性和一致性。例如，當(dāng)遇到空值一軸生成

**InfoQ

極客傳媒Chain-of-Thought