Menggunakan Anthropic's Claude Sonnet untuk Menjana Laporan

Penjanaan laporan menggunakan Anthropic’s Claude 3.5 Sonnet: Perbandingan dua kaedah

Hello semua! Saya Raphael, pengasas bersama dan CTO syarikat hartanah Brazil Pilar. Pilar menyediakan perisian dan perkhidmatan kepada ejen hartanah dan firma broker, menggunakan model yuran kejayaan yang rendah. Daripada mengenakan yuran pendahuluan yang tinggi, kami mengambil komisen kecil daripada setiap transaksi yang berjaya, mengikat kejayaan kami terus kepada kejayaan pelanggan kami. Pasukan kami yang terdiri daripada 20 ahli teknologi sentiasa berinovasi dan produk terbaharu ialah Pilar Homes, portal hartanah baharu yang direka untuk memberikan pengalaman terbaik kepada pembeli rumah dan ejen hartanah.

Dalam siaran ini, saya akan berkongsi pengalaman kami menggunakan kecerdasan buatan untuk menjana laporan, khususnya Anthropic's Claude 3.5 Sonnet, dan membandingkan dua kaedah berbeza.

Falsafah kami untuk mengendalikan tugas akan diperincikan dalam artikel akan datang (nantikan!), tetapi secara ringkasnya, tugasan ini berakhir di papan "Meja Bantuan Teknologi" sebagai tiket Jira. Menjana laporan ialah satu tugas sedemikian, dengan kebanyakan tugas mengambil jurutera kira-kira 30 minit untuk diselesaikan, dengan laporan yang rumit jarang mengambil masa lebih daripada beberapa jam. Tetapi keadaan berubah. Jenama butik yang kami mulakan dengan satu atau dua rakan kongsi berkembang menjadi agensi yang lebih besar, dan kami menandatangani lebih banyak kontrak dengan pemain yang mapan dalam industri. Walaupun peningkatan jam kerja jurutera dapat menangani keperluan pelaporan yang semakin meningkat, saya melihat peluang untuk meneroka ejen AI dan mempelajari corak seni bina dalam persekitaran dunia sebenar.

Kaedah 1: Biarkan AI mengendalikan sepenuhnya dan mencapai had max_tokens

Dalam pendekatan awal kami, kami mendedahkan alat itu kepada model Sonnet 3.5 Claude, membolehkannya melakukan pertanyaan pangkalan data, menukar dokumen yang diambil kepada CSV dan menulis hasilnya kepada fail .csv.

Berikut ialah struktur kami, sangat diilhamkan oleh catatan blog di atas:

<code># 每个collection对象描述一个MongoDB集合及其字段
# 这有助于Claude理解我们的数据模式
COLLECTIONS = [
    {
        'name': 'companies',
        'description': 'Companies are the real estate brokerages. If the user provides a code to filter the data, it will be a company code. The _id may be retrieved by querying the company with the given code. Company codes are not used to join data.',
        'fields': {
            '_id': 'The ObjectId is the MongoDB id that uniquely identifies a company document. Its JSON representation is \"{"$oid": "the id"}\"',
            'code': 'The company code is a short and human friendly string that uniquely identifies the company. Never use it for joining data.',
            'name': 'A string representing the company name',
        }
    },
    # 此处之后描述了更多集合，但思路相同...
]

# 这是client.messages.create的“system”参数
ROLE_PROMPT = "You are an engineer responsible for generating reports in CSV based on a user's description of the report content"

# 这是“user”消息
task_prompt = f"{report_description}.\nAvailable collections: {COLLECTIONS}\nCompany codes: {company_codes}\n.Always demand a company code from the user to filter the data -- the user may use the terms imobiliária, marca, brand or company to reference a company. If the user wants a field that does not exist in a collection, don't add it to the report and don't ask the user for the field."
</code>

report_description hanyalah hujah baris arahan yang dibaca melalui argparse, company_codes diambil daripada pangkalan data dan didedahkan kepada model supaya ia mengetahui syarikat yang wujud dan kod syarikat apa yang terdapat dalam input pengguna. Contoh: (MO - Mosaic Homes, NV - Nova Real Estate, dll.).

Alat yang tersedia untuk model termasuk: cari dan docs2csv.

<code>def find(collection: str, query: str, fields: list[str]) -> Cursor:
    """Find documents in a collection filtering by "query" and retrieving fields via projection"""
    return db.get_collection(collection).find(query, projection={field: 1 for field in fields})

def docs2csv(documents: list[dict]) -> list[str]:
    """
    Convert a dictionary to a CSV string.
    """
    print(f"Converting {len(documents)} documents to CSV")
    with open('report.csv', mode='w', encoding='utf-8') as file:
        writer = csv.DictWriter(file, fieldnames=documents[0].keys())
        writer.writeheader()
        writer.writerows(documents)
    return "report.csv"</code>

Claude dapat memanggil fungsi find untuk melaksanakan pertanyaan dan unjuran yang berstruktur dengan baik terhadap pangkalan data kami dan menjana laporan CSV kecil (kurang daripada 500 baris) menggunakan alat docs2csv. Walau bagaimanapun, laporan yang lebih besar mencetuskan ralat max_tokens.

Selepas menganalisis corak penggunaan token kami, kami menyedari bahawa kebanyakan penggunaan token datang daripada memproses rekod individu melalui model. Ini mendorong kami untuk meneroka pendekatan lain: membiarkan Claude menjana kod pemprosesan dan bukannya memproses data secara langsung.

Kaedah 2: Penjanaan kod Python sebagai penyelesaian

Walaupun menyelesaikan had max_tokens tidak sukar secara teknikal, ia memerlukan kami memikirkan semula pendekatan kami untuk menyelesaikan masalah.

Penyelesaian? Biarkan Claude menjana kod Python yang akan dijalankan pada CPU kami dan bukannya memproses setiap dokumen melalui AI.

Saya terpaksa mengubah suai watak dan gesaan pencarian serta mengalih keluar alatan.

Berikut ialah intipati kod penjanaan laporan.

Arahan untuk menjana laporan ialah:

<code># 每个collection对象描述一个MongoDB集合及其字段
# 这有助于Claude理解我们的数据模式
COLLECTIONS = [
    {
        'name': 'companies',
        'description': 'Companies are the real estate brokerages. If the user provides a code to filter the data, it will be a company code. The _id may be retrieved by querying the company with the given code. Company codes are not used to join data.',
        'fields': {
            '_id': 'The ObjectId is the MongoDB id that uniquely identifies a company document. Its JSON representation is \"{"$oid": "the id"}\"',
            'code': 'The company code is a short and human friendly string that uniquely identifies the company. Never use it for joining data.',
            'name': 'A string representing the company name',
        }
    },
    # 此处之后描述了更多集合，但思路相同...
]

# 这是client.messages.create的“system”参数
ROLE_PROMPT = "You are an engineer responsible for generating reports in CSV based on a user's description of the report content"

# 这是“user”消息
task_prompt = f"{report_description}.\nAvailable collections: {COLLECTIONS}\nCompany codes: {company_codes}\n.Always demand a company code from the user to filter the data -- the user may use the terms imobiliária, marca, brand or company to reference a company. If the user wants a field that does not exist in a collection, don't add it to the report and don't ask the user for the field."
</code>

Kandungan Python yang dijana Claude (berfungsi dengan baik):

<code>def find(collection: str, query: str, fields: list[str]) -> Cursor:
    """Find documents in a collection filtering by "query" and retrieving fields via projection"""
    return db.get_collection(collection).find(query, projection={field: 1 for field in fields})

def docs2csv(documents: list[dict]) -> list[str]:
    """
    Convert a dictionary to a CSV string.
    """
    print(f"Converting {len(documents)} documents to CSV")
    with open('report.csv', mode='w', encoding='utf-8') as file:
        writer = csv.DictWriter(file, fieldnames=documents[0].keys())
        writer.writeheader()
        writer.writerows(documents)
    return "report.csv"</code>

Kesimpulan

Perjalanan kami dengan Claude 3.5 Sonnet menunjukkan bahawa AI boleh meningkatkan kecekapan operasi dengan ketara, tetapi kunci kejayaan terletak pada memilih seni bina yang betul. Pendekatan penjanaan kod terbukti lebih berkuasa daripada pemprosesan AI langsung sambil mengekalkan faedah automasi.

Selain membina laporan dengan betul, kaedah penjanaan kod juga membolehkan jurutera menyemak kerja AI, yang merupakan perkara yang sangat baik.

Untuk mengautomasikan sepenuhnya proses, hapuskan penglibatan manusia dan kendalikan jumlah laporan yang lebih besar, pengagihan kerja merentas berbilang contoh ejen - setiap satu mengendalikan lebih sedikit token - akan menjadi evolusi semula jadi sistem. Untuk cabaran seni bina dalam sistem AI yang diedarkan sedemikian, saya sangat mengesyorkan artikel terbaru Phil Calçado tentang membina produk AI.

Pelajaran utama yang dipelajari daripada pelaksanaan ini:

• Pemprosesan AI langsung berfungsi untuk set data yang lebih kecil
• Penjanaan kod memberikan kebolehskalaan dan kebolehselenggaraan yang lebih baik
• Semakan manusia meningkatkan kebolehpercayaan

Rujukan

• Dokumentasi Antropik
• Anthropic Claude Thomas Taylor dengan alatan menggunakan SDK Python
• Membina Produk AI - Bahagian 1: Seni Bina Bahagian Belakang oleh Phil Calçado

Atas ialah kandungan terperinci Menggunakan Anthropic's Claude Sonnet untuk Menjana Laporan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!