CY
API & MCPDogfennaeth

Platfform Asiantau ac API Mariner GPS Tools

Methodoleg a chanlyniadau'r meincnod

Gwelwch sut mae Mariner GPS Tools yn effeithio ar ddefnydd y model o docynnau, ar yr amser ymateb ac ar y cywirdeb ar draws 9 model AI, a sut y gwnaethom fesur y canlyniadau.

Beth mae'r meincnod yn ei fesur

Rydym yn cymharu'r un tasgau llywio gyda Mariner GPS Tools a hebddo er mwyn mesur yr effaith ar docynnau a gynhyrchir gan y model, ar yr amser ymateb ac ar y cywirdeb. Mae pob tasg yn defnyddio'r un model, anogwr a gosodiadau, gydag argaeledd offer MCP fel yr unig wahaniaeth.

Prif ganlyniadau

84%yn llai o docynnau model a gynhyrchwydCanolrif ar draws 9 model a brofwyd.
100%yn gywir gydag MCP594/594 o arsylwadau'r MCP cynhyrchu o fewn y goddefiant.
91.6%yn gywir heb MCP594 arsylwad a atebwyd gan y model ar ei ben ei hun.

Mesurwyd Medi 2026 · 9 model · 22 achos llywio · 3 ailadroddiad · 1188 o arsylwadau · MCP cynhyrchu Mariner GPS Tools

Canlyniadau yn ôl dosbarth model

Pob ffigur yw canolrif y tri model yn y dosbarth hwnnw. Mae'r dosbarthiadau'n dilyn y ffordd y mae pob darparwr ei hun yn lleoli'r model, ac fe'u pennwyd cyn darllen y canlyniadau.

Gostyngiad mewn tocynnau a gynhyrchwyd
Bach / effeithlon94.1%
Diben cyffredinol93.0%
Uwch78.4%
Canolrif cyffredinol84%
Atebion cywir
Llinell sylfaen LLM91.6% (544/594)
LLM + MCP100% (594/594)

Canlyniadau yn ôl offeryn

Mae'r gyfres yn cwmpasu pob un o'r pum cyfrifiannell ar draws 22 achos, o gymalau arfordirol byr i fordeithiau cefnforol, gan gynnwys llwybrau ar draws y gwrthferidian, yn hemisffer y de ac ar ledredau uchel. Dim ond lle bu pob model cymwys ar ei ennill y cyhoeddir ffigur.

Mae'r tabl hwn yn cyfuno arsylwadau defnyddiadwy pob offeryn: atebion cywir yn unig, fel ym mhob cymhariaeth tocynnau ac amser ymateb. Mae tudalennau'r offer yn dyfynnu'r canolrif ar draws y modelau cymwys, sef y ffigur y mae'r meincnod yn ei gyhoeddi fesul offeryn, felly gall y ddau fod ychydig yn wahanol.

OfferynTocynnau a gynhyrchwydCyflymiadAtebion cywir: Llinell sylfaen LLM, LLM + MCP
Cyfrifo cyfeiriant gwir cychwynnol-91.6%5.1×Llinell sylfaen LLM: 101/108, LLM + MCP: 108/108
Cyfrifo pellter cylch mawr-91.0%4.4×Llinell sylfaen LLM: 94/108, LLM + MCP: 108/108
Cyfrifo gwall traws-drac-94.5%9.8×Llinell sylfaen LLM: 106/135, LLM + MCP: 135/135
Dehongli a fformatio cyfesurynnauHeb ei gyhoeddi+7.1%2.9× yn arafachLlinell sylfaen LLM: 108/108, LLM + MCP: 108/108

Roedd y modelau'n ymdrin â'r dasg hon yn effeithlon ar eu pen eu hunain. Yn y profion trosi annibynnol hyn, ychwanegodd defnyddio'r offeryn fwy o orbenion nag a arbedodd.

Trosi cyflymderauHeb ei gyhoeddi+33.0%4.1× yn arafachLlinell sylfaen LLM: 135/135, LLM + MCP: 135/135

Roedd y modelau'n ymdrin â'r dasg hon yn effeithlon ar eu pen eu hunain. Yn y profion trosi annibynnol hyn, ychwanegodd defnyddio'r offeryn fwy o orbenion nag a arbedodd.

Pam mae'r canlyniadau'n amrywio yn ôl offeryn

Mae defnyddio offeryn MCP yn ychwanegu rhywfaint o orbenion at bob cais. Ar gyfer cyfrifiadau mwy cymhleth fel cyfeiriant, pellter a gwall traws-drac, caiff hynny ei wrthbwyso gan fod y model yn gwneud llawer llai o waith ei hun. Yn ein profion, cynhyrchodd yr offer hyn ostyngiadau sylweddol mewn tocynnau a gynhyrchwyd ac mewn amseroedd ymateb, gan gynnal cywirdeb o 100%.

Ar gyfer tasgau symlach fel trosi unedau a chyfesurynnau, gall modelau gyfrifo'r ateb yn gyflym ar eu pen eu hunain yn aml. Yn y meincnod hwn, cymerodd defnyddio offeryn ar gyfer y tasgau hyn fwy o amser ar gyfer pob model a brofwyd a defnyddiodd fwy o docynnau yn gyffredinol.

Ar draws y 9 model a brofwyd, roedd y gostyngiad mewn tocynnau a gynhyrchwyd yn amrywio o 7.3% i 95.4%, tra oedd y perfformiad o'r dechrau i'r diwedd yn amrywio o 0.6× i 5.8× y llinell sylfaen.

Tocynnau a gynhyrchwyd a chyfanswm tocynnau

Tocynnau a gynhyrchwyd yw tocynnau allbwn y model, gan gynnwys rhesymu. Nhw yw'r prif fetrig am mai nhw yw'r gwaith y mae'r offeryn yn ei ddisodli.

Methodoleg a gwiriadau cywirdeb

  • Mae'r profion llinell sylfaen ac MCP yn defnyddio'r un anogwr, tasg, model a gosodiadau. Yr unig wahaniaeth yw a yw Mariner GPS Tools wedi'i gysylltu.
  • Ni ddywedir wrth y modelau am ddefnyddio'r offer. Nhw sy'n penderfynu a ddylid eu galw.
  • Daw'r ffigurau tocynnau'n uniongyrchol gan bob darparwr model. Mae ffigurau MCP yn cynnwys y diffiniadau offer a phob tro model sy'n rhan o ddefnyddio offeryn.
  • Caiff atebion eu gwirio yn erbyn gwerthoedd disgwyliedig a gyfrifwyd yn annibynnol a goddefiannau sefydlog. Nid oes LLM yn barnu cywirdeb.
  • Mae cymariaethau tocynnau ac amser ymateb yn defnyddio atebion cywir. Mae atebion anghywir, methiannau model a methiannau offer yn dal i gyfrif yn y canlyniadau cywirdeb, gan gynnwys achosion lle gwrthododd model y dasg. Ailbrofwyd rhediadau a fethodd am resymau seilwaith, megis toriad gwasanaeth gan ddarparwr, a chafodd y methiannau gwreiddiol eu heithrio.
  • Mae pob galwad offeryn yn defnyddio pwynt terfyn MCP cynhyrchu Mariner GPS Tools, gyda theithiau crwn y rhwydwaith ac MCP wedi'u cynnwys yn yr amseroedd ymateb.
  • Caiff pob achos ei redeg 3 gwaith ar gyfer pob model ac amod. Canolrifau yw'r ffigurau a adroddir, nid rhediadau gorau a ddewiswyd.

Atgynyrchioldeb

Dyddiad y meincnod20 Medi 2026
Rhaglen feincnodiwn-mcp-bench 0.1.0 (40436f25ed54)
Cyfresmariner-tools v0.2.0
Hash y gyfres (SHA-256)b185cd2a8b8d49b5852a281646b6c65570eb793b531914b8ae2daf5f5a2df066
Pwynt terfyn MCPhttps://marinergps.tools/mcp
Gweinydd MCPmariner-tools 1.0.0 · MCP 2025-11-25
Ymdrech resymumedium
Rhediade8d9d909-831b-4e5e-91aa-cf1413c81096
Anogwr system, y ddau amodtext
You are a capable assistant helping with navigation calculations. Answer the user's task. When you have the result, end your reply with exactly one line of the form
FINAL: {"<field>": <number>, ...}
containing every requested field as a plain JSON number (no units, no text inside the JSON). Nothing may follow that line.
Dogfennaeth API & MCP